جفری هینتون، که توسط بسیاری به عنوان پدرخوانده هوش مصنوعی (AI) شناخته می شود، شغل خود را در این زمینه رها کرده و نسبت به خطرات فزاینده پیشرفت های جدید در این زمینه هشدار داده است.
او به بی بی سی گفت که برخی از خطرات چت ربات های هوش مصنوعی “بسیار ترسناک” هستند.
تا آنجا که من می دانم، آنها در حال حاضر باهوش تر از ما نیستند. اما من فکر می‌کنم که این اتفاق می‌تواند به زودی رخ دهد.”
تحقیقات برجسته دکتر هینتون در زمینه یادگیری عمیق و شبکه های عصبی راه را برای توسعه سیستم های فعلی مانند GPT Chat هموار کرد.
اما این روانشناس و دانشمند کامپیوتر گفت که توانایی “ربات سخنگو” به زودی می تواند از مقدار اطلاعاتی که ذهن انسان می تواند ذخیره کند بیشتر شود.
«در حال حاضر، پدیده‌ای مانند GPT-4 را دیده‌ایم که از نظر دانش عمومی با فاصله زیادی از انسان پیشی گرفته است. از نظر استدلال، او آن قدرت را ندارد، اما در حال حاضر استدلال ساده انجام می دهد.
و با توجه به سرعت پیشرفت، ما انتظار داریم که این فناوری با سرعتی سریع قدرتمندتر شود. بنابراین جای نگرانی وجود دارد.”
در مقاله نیویورک تایمز، دکتر هینتون از «بازیگران بد» صحبت کرد که سعی خواهند کرد از هوش مصنوعی برای «مقادیر شوم» استفاده کنند.
او به بی بی سی گفت: «شاید این بدترین سناریوی ممکن، یک کابوس باشد.
می‌توانید تصور کنید، برای مثال، یک بازیگر بد دوست دارد[руския лидер]پوتین تصمیم می گیرد به روبات ها توانایی ایجاد اهداف فرعی را بدهد.
او هشدار می دهد که این در نهایت می تواند “به اهدافی مانند “من قدرت بیشتری می خواهم” منجر شود.
او می افزاید: «من به این نتیجه رسیده ام که نوع هوشی که ما توسعه می دهیم با هوشی که داریم بسیار متفاوت است.
ما سیستم‌های بیولوژیکی هستیم و این‌ها سیستم‌های دیجیتالی هستند. تفاوت بزرگ با سیستم‌های دیجیتال این است که می‌توانید چندین نسخه از یک سیستم با قابلیت‌های یکسان داشته باشید.
و همه این نسخه ها را می توان به صورت جداگانه آموزش داد و فوراً دانش خود را با یکدیگر به اشتراک گذاشت. مثل این است که ده هزار نفر هستند و وقتی یکی از آنها یک چیز را یاد می گیرد، بقیه بلافاصله همان را یاد می گیرند. اینگونه است که این ربات های مکالمه می توانند دانش بسیار بیشتری نسبت به انسان ها داشته باشند.”
دکتر هینتون همچنین گفت که دلایل دیگری برای ترک شغل خود دارد.
یکی اینکه من 75 ساله هستم. پس زمان بازنشستگی فرا رسیده است. و دلیل دیگر این است که من چیزهای مثبتی در مورد گوگل دارم. و وقتی برای گوگل کار نمی کنید، اعتبار آن کلمات افزایش می یابد.”
او تاکید کرد که نمی‌خواهد از گوگل انتقاد کند و این غول فناوری “بسیار مسئولانه عمل کرد”.