مصنوعی ذہانت کے ایک محقق، جو پہلے اوپن اے آئی اور بعد میں اینتھروپک سے وابستہ رہے، نے یہ صنعت چھوڑنے کا فیصلہ کرتے ہوئے خبردار کیا ہے کہ مصنوعی ذہانت کی بڑی کمپنیاں مناسب حفاظتی انتظامات کے بغیر خود کو بہتر بنانے کی صلاحیت رکھنے والے نظام تیار کرنے کی دوڑ میں بہت تیزی سے آگے بڑھ رہی ہیں۔
27 سالہ جیکب کاکسن نے تقریباً تین برس جدید مصنوعی ذہانت کے نمونوں کی ابتدائی تربیت پر کام کیا۔ ابتدا میں وہ اوپن اے آئی سے وابستہ تھے اور بعد میں اینتھروپک میں شامل ہوگئے۔ انہوں نے اینتھروپک کا انتخاب جزوی طور پر اس لیے کیا تھا کہ ان کے خیال میں یہ کمپنی مصنوعی ذہانت کے تحفظ کے معاملے میں زیادہ محتاط تھی۔
تاہم اب کاکسن کا کہنا ہے کہ زیادہ طاقتور مصنوعی ذہانت تیار کرنے کی بڑھتی ہوئی مسابقت میں دونوں کمپنیاں ذمہ داری کا مظاہرہ نہیں کر رہیں۔
کاکسن نے منگل کو کہا، ’’دونوں میں سے کوئی کمپنی ذمہ دارانہ طرزِ عمل اختیار نہیں کر رہی۔ وہ خود کو بہتر بنانے والی فوق انسانی ذہانت کی جانب تیزی سے بڑھ رہی ہیں اور ہماری زندگیوں کو داؤ پر لگا رہی ہیں۔‘‘
سماجی رابطے کے ایک پلیٹ فارم پر اپنے بیان میں انہوں نے کہا کہ جدید مصنوعی ذہانت تیار کرنے والے بعض ماہرین حقیقی طور پر سمجھتے ہیں کہ یہ ٹیکنالوجی موجودہ دہائی کے اختتام تک پوری انسانیت کے لیے وجودی خطرہ بن سکتی ہے۔ ان کے مطابق یہ خدشات محض تشہیر کے لیے نہیں ہیں۔
اس بحث کا مرکز فوق انسانی ذہانت کا تصور ہے، یعنی وہ نظریاتی مرحلہ جب مصنوعی ذہانت انسانی ذہنی صلاحیتوں سے آگے نکل جائے۔ اس سے بھی زیادہ تشویش خود کو مسلسل بہتر بنانے کی اس صلاحیت پر ہے جس کے تحت مصنوعی ذہانت کے نظام محدود انسانی مداخلت کے ساتھ اپنے سے زیادہ طاقتور نظاموں کی تیاری اور تربیت میں بنیادی کردار ادا کرسکتے ہیں۔
اینتھروپک میں مصنوعی ذہانت کے تحفظ سے متعلق اعلیٰ عہدیدار ایون ہیوبنگر نے بھی کاکسن کے بیان کردہ خطرات کی تائید کی۔ ان کے مطابق آئندہ ایک دہائی کے دوران مصنوعی ذہانت کے باعث انسانیت کے خاتمے کا امکان ان کے اندازے میں 10 فیصد سے زیادہ ہے۔
ہیوبنگر نے کہا کہ اینتھروپک حفاظتی خدشات سے نمٹنے کے لیے سنجیدہ کوششیں کر رہی ہے، لیکن انہوں نے تسلیم کیا کہ کمپنی کے پاس ابھی ایسا قابلِ اعتماد طریقہ موجود نہیں جس سے یہ یقینی بنایا جاسکے کہ انسانوں سے زیادہ ذہین نظام اپنے تخلیق کاروں کی ہدایات اور مقاصد کا پابند رہے گا۔ تاہم انہوں نے موجودہ نمونوں سے اس نوعیت کے خطرے کو کم قرار دیا۔
کاکسن کی علیحدگی ایسے وقت میں سامنے آئی ہے جب اینتھروپک ممکنہ طور پر بازارِ حصص میں داخل ہونے کی تیاری کر رہی ہے۔ اس سے قبل آزمائشی مراحل کے دوران مصنوعی ذہانت کے آلات کی جانب سے مبینہ طور پر غیر مجاز ہیکنگ کے واقعات بھی سامنے آئے تھے۔
فرانسیسی خبر رساں ادارے کی جانب سے رابطہ کیے جانے پر اینتھروپک اور اوپن اے آئی نے فوری طور پر کوئی ردعمل نہیں دیا۔
کاکسن تسلیم کرتے ہیں کہ اینتھروپک کی حفاظتی کوششیں حقیقی ہیں، لیکن ان کا استدلال ہے کہ تجارتی مسابقت خود ذمہ دارانہ ترقی کو مشکل بناتی جارہی ہے۔ ان کے خیال میں کوئی ایک کمپنی مضبوط حکومتی مداخلت یا بین الاقوامی سطح پر مربوط رفتار میں کمی کے بغیر انسانوں سے زیادہ ذہین نظام محفوظ طریقے سے تیار نہیں کرسکتی۔
ان کے مطابق اینتھروپک ممکنہ خطرات کو سمجھتی ہے، لیکن کمپنی اس مسابقتی دوڑ میں اس خوف کے باعث پھنسی ہوئی ہے کہ اگر اس نے رفتار کم کی تو کم محتاط حریف پہلے زیادہ ترقی یافتہ مصنوعی ذہانت تیار کرلیں گے۔
یہ کشمکش اینتھروپک کی حفاظتی پالیسی کو بھی متاثر کرچکی ہے۔ فروری میں کمپنی نے اپنے حفاظتی ضابطے سے وہ وعدہ ہٹا دیا جس کے تحت خطرات پر مناسب قابو نہ پانے کی صورت میں زیادہ طاقتور نمونوں کی تیاری روک دی جاتی۔ کمپنی کا مؤقف تھا کہ اگر وہ یک طرفہ طور پر کام روک دے تو کم محتاط حریف صنعت میں برتری حاصل کرسکتے ہیں، جس سے مجموعی خطرہ مزید بڑھ سکتا ہے۔
مصنوعی ذہانت کی تیز رفتار ترقی سے متعلق تشویش اب پوری ٹیکنالوجی صنعت میں پھیل رہی ہے۔ جولائی کے آخر میں ایک ہزار سے زیادہ ٹیکنالوجی کارکنوں، جن میں اینتھروپک کے سربراہ ڈاریو امودی بھی شامل تھے، نے واشنگٹن سے مطالبہ کیا کہ انتہائی جدید مصنوعی ذہانت کے نظاموں کی ترقی کی رفتار کم کرنے کے لیے مربوط اقدامات کی حمایت کی جائے۔
اوپن اے آئی نے بھی اگست میں اپنے جدید ترین نمونوں کی تربیت دو ہفتوں کے لیے روک دی تھی، جسے بعد میں زیادہ سخت حفاظتی انتظامات کے تحت دوبارہ شروع کیا گیا۔
اوپن اے آئی کے چیف سائنس دان یاکوب پاخوٹسکی نے بھی ’’انتہائی احتیاط‘‘ کی ضرورت پر زور دیتے ہوئے کہا ہے کہ مصنوعی ذہانت کی مستقبل کی ترقی کے بارے میں بین الاقوامی تعاون دنیا بھر کی حکومتوں کی اہم ترجیح بننا چاہیے۔
یہ بحث اب ٹیکنالوجی کمپنیوں سے نکل کر سیاسی اور قانونی سطح تک پہنچ رہی ہے۔ امریکا میں اس وقت مصنوعی ذہانت کے نمونوں کو منظم کرنے کے لیے کوئی جامع وفاقی قانون موجود نہیں۔ ستمبر میں سینیٹر برنی سینڈرز اور ڈیموکریٹ رکنِ ایوانِ نمائندگان گریگ کاسر نے ایک قانونی مسودہ پیش کیا، جس میں وفاقی نگران ادارے کے قیام تک مصنوعی ذہانت کی مزید ترقی معطل کرنے کی تجویز دی گئی ہے۔
کاکسن کا استعفیٰ مصنوعی ذہانت کی صنعت کے ایک بنیادی مسئلے کو نمایاں کرتا ہے: وہ کمپنیاں بھی جو زیادہ طاقتور مصنوعی ذہانت کے ممکنہ خطرات کو تسلیم کرتی ہیں، اپنے حریفوں کی مسلسل پیش رفت کے باعث خود رفتار کم کرنے سے قاصر محسوس کرسکتی ہیں۔
اب بنیادی سوال صرف یہ نہیں کہ مصنوعی ذہانت کتنی طاقتور ہوسکتی ہے، بلکہ یہ ہے کہ کیا حکومتیں اور ٹیکنالوجی کمپنیاں مسابقت کی دوڑ میں اس ٹیکنالوجی کے انسانی اختیار سے باہر ہونے سے پہلے مؤثر حفاظتی نظام قائم کرسکتی ہیں۔
