به نظر می رسد که او تمام زندگی خود را روی هوش مصنوعی کار کرده است. جفری هینتون اکنون هشدار می دهد که این فناوری چقدر می تواند خطرناک باشد.
یکی از پیشگامان هوش مصنوعی (AI) با نام مستعار “پدرخوانده هوش مصنوعی” از سمت خود در شرکت فناوری بزرگ گوگل استعفا داد تا آشکارتر در مورد خطرات احتمالی فناوری صحبت کند.
دکتر. جفری هینتون بیش از یک دهه قبل از استعفا بر روی الگوریتم های یادگیری ماشین در گوگل کار می کرد. گفته می شود که او به دلیل کار طولانی مدتش در شبکه های عصبی، نام مستعار خود را دریافت کرد.
اما هینتون در یک توییت در اول ماه مه اعلام کرد که پست خود را در گوگل ترک می کند «تا بتوانم در مورد خطرات هوش مصنوعی صحبت کنم».
امروز در NYT، کید متز اشاره کرد که من گوگل را ترک کردم تا از گوگل انتقاد کنم. در واقع، من آنجا را ترک کردم تا بتوانم در مورد خطرات هوش مصنوعی بدون فکر کردن به اینکه چگونه بر گوگل تأثیر می گذارد صحبت کنم. گوگل بسیار مسئولیت پذیر بوده است.
– جفری هینتون (@geoffreyhinton) 1 مه 2023
در مصاحبه ای با نیویورک تایمز، شدیدترین نگرانی او در مورد هوش مصنوعی این بود که اینترنت را پر از عکس ها، فیلم ها و متن های جعلی کرد، جایی که او ابراز نگرانی کرد که بسیاری “دیگر نمی توانند بدانند چه چیزی حقیقت دارد”.
نگرانی های دیگر هینتون مربوط به در دست گرفتن فناوری هوش مصنوعی بود. او معتقد است که در آینده، هوش مصنوعی می‌تواند تهدیدی برای بشریت باشد زیرا از حجم زیادی از داده‌هایی که تجزیه و تحلیل می‌کند رفتارهای غیرمنتظره‌ای را یاد می‌گیرد.
همچنین در مورد مسابقه تسلیحاتی در حال انجام هوش مصنوعی، که هدف آن توسعه بیشتر فناوری برای استفاده در سیستم های تسلیحات خودکار مرگبار (LAWS) است، ابراز نگرانی کرد.
هینتون همچنین نسبت به کاری که در طول زندگی خود انجام داده بود ابراز تاسف کرد:
“من خودم را به بهانه معمول دلداری می دهم: اگر من این کار را نمی کردم، شخص دیگری انجام می داد.”
در ماه‌های اخیر، قانون‌گذاران، قانون‌گذاران و مدیران صنعت فناوری نیز در مورد توسعه هوش مصنوعی ابراز نگرانی کرده‌اند. در ماه مارس، بیش از 2600 مدیر فناوری و محقق با امضای نامه ای سرگشاده خواستار توقف موقت توسعه هوش مصنوعی شدند و به آنها اشاره کردند که “خطرات عمیقی برای جامعه و بشریت وجود دارد.”
گروهی متشکل از 12 قانونگذار اتحادیه اروپا نامه مشابهی را در ماه آوریل امضا کردند و لایحه اخیر اتحادیه اروپا ابزارهای هوش مصنوعی را بر اساس سطح خطر طبقه بندی می کند. بریتانیا همچنین 125 میلیون دلار برای حمایت از یک کارگروه برای توسعه “هوش مصنوعی امن” اختصاص داده است.
هوش مصنوعی مورد استفاده در کمپین های خبری جعلی و جوک ها
بر اساس گزارش‌ها، ابزارهای هوش مصنوعی در حال حاضر برای اطلاعات نادرست مورد استفاده قرار می‌گیرند، با موارد اخیر رسانه‌ها برای انتشار اخبار جعلی فریب خورده‌اند، در حالی که یک سازمان آلمانی حتی از هوش مصنوعی برای ساختن مصاحبه استفاده کرده است.
در اول ماه مه، بایننس ادعا کرد که قربانی یک کمپین افشاگری ناشی از ChatGPT شده است و شواهدی از چت بات به اشتراک گذاشت که مدعی بود مدیر عامل آن Changpeng “CZ” Zhao یکی از اعضای یک سازمان جوانان حزب کمونیست چین است.
برای همه کارآگاهان رمزنگاری و هوش مصنوعی، اگر کسی می‌خواهد عمیق‌تر کند، در اینجا موضوع ChatGPT است. همانطور که خواهید دید، ChatGPT آن را از یک پروفایل جعلی LinkedIn و یک پروفایل LinkedIn که وجود ندارد دریافت می کند. @Forbes مقاله. ما نمی توانیم هیچ مدرکی مبنی بر وجود این داستان یا صفحه لینکدین پیدا کنیم. pic.twitter.com/szLaix3nza
– پاتریک هیلمن ♂️ (@PRHillmann) 1 مه 2023
این ربات به یک مقاله فوربس و صفحه لینکدین پیوند داده شده بود که در آن ادعا می کند اطلاعات را بازیابی کرده است، اما مقاله وجود ندارد و نمایه لینکدین متعلق به ژائو نیست.
هفته گذشته، گروهی از شوخی‌ها نیز بسیاری از رسانه‌های سراسر جهان از جمله دیلی میل و ایندیپندنت را فریب دادند.
مرتبط با: دانشمندان در تگزاس یک سیستم هوش مصنوعی شبیه GPT ساخته اند که ذهن ها را می خواند
دیلی میل داستانی درباره یک بازیگر ظاهراً کانادایی به نام “سنت فون کولوچی” منتشر کرد که گفته می شد پس از یک عمل جراحی پلاستیک درگذشت تا بیشتر شبیه یک ستاره پاپ کره جنوبی شود و بعداً آن را حذف کرد.
این خبر از یک بیانیه مطبوعاتی در مورد مرگ این بازیگر منتشر شد که در آن از تصاویر ارسال شده توسط یک نهاد که به عنوان یک شرکت روابط عمومی ظاهر شده بود استفاده می شد که به نظر می رسید توسط هوش مصنوعی ایجاد شده است.
در ماه آوریل، خروجی آلمان به مرگ آکتول او مصاحبه ای را با استفاده از ChatGPT منتشر کرد تا مکالمه ای را با مایکل شوماخر راننده سابق فرمول 1 که در سال 2013 در یک تصادف اسکی دچار آسیب مغزی شدید شد، ترکیب کند.
گفته می شود خانواده شوماخر در مورد این مقاله اقدام قانونی خواهند کرد.
AI Eye: “بزرگترین جهش تا کنون” در هوش مصنوعی، ابزارهای جدید جالب، هوش مصنوعی DAOهای واقعی هستند
نویسنده: Jesse Coghlan
