کارشناسان هوش مصنوعی از IBM، NYU و OpenAI در جلسه استماع با عنوان “ممیزی هوش مصنوعی: قوانین هوش مصنوعی” در 16 می در برابر سنای ایالات متحده شهادت خواهند داد.
سام آلتمن، مدیر عامل OpenAI برای اولین بار در 16 مه در کنگره حاضر خواهد شد تا در جریان یک جلسه استماع در مورد نظارت، در مورد مقررات هوش مصنوعی (AI) در ایالات متحده بحث کند. کریستینا مونتگومری، معاون اعتماد و حریم خصوصی آی‌بی‌ام، و گری مارکوس، استاد بازنشسته دانشگاه نیویورک، نیز شهادت خواهند داد.
جلسه استماع سنای آمریکا #هوش مصنوعی نظارت با @OpenAI مدیر عامل @samaIBM @_ChristinaMont و پروفسور بازنشسته NYU. @garymarcus، سه شنبه 10 ET. https://t.co/VwiR77F52f
– گری مارکوس (@GaryMarcus) 10 مه 2023
جزئیات در مورد دستور جلسه استماع کمیاب است. عنوان آن، “مراقبت هوش مصنوعی: قوانین هوش مصنوعی” نشان می دهد که بحث بر امنیت و حریم خصوصی متمرکز خواهد بود، درست مانند لیست شرکت کنندگان.
این جلسه اولین شهادت ثبت شده سام آلتمن، مدیر عامل OpenAI در مقابل کنگره خواهد بود، اما او اخیراً در میزگردی در کاخ سفید با مدیران عامل آلفابت، مایکروسافت و آنتروپیک و همچنین معاون رئیس جمهور کامالا هریس شرکت کرد.
کریستینا مونتگومری، معاون اعتماد و حریم خصوصی IBM، عضو کمیته مشاوره ملی ایالات متحده در زمینه هوش مصنوعی، و استاد بازنشسته دانشگاه نیویورک، نویسنده پرفروش نیویورک تایمز، گری مارکوس، به آلتمن خواهند پیوست.
مارکوس اخیراً با گلوی پر در جامعه هوش مصنوعی موج زد. حمایت کردن برای یک «مکث» مبتنی بر جامعه در توسعه هوش مصنوعی به مدت شش ماه.
مرتبط با: ایلان ماسک و مدیران فناوری خواستار توقف توسعه هوش مصنوعی هستند
ایده توقف هوش مصنوعی در نامه سرگشاده ای که در وب سایت موسسه آینده زندگی در 22 مارس منتشر شد، توضیح داده شد. این مقاله در زمان انتشار بیش از 27500 امضا دارد.
هدف اعلام شده از این نامه این است که “از همه آزمایشگاه های هوش مصنوعی فراخوانده شود تا بلافاصله آموزش سیستم های هوش مصنوعی قدرتمندتر از GPT-4 را برای حداقل 6 ماه متوقف کنند”.
از مخالفان این مکث می توان به سم آلتمن و کریستینا مونتگومری اشاره کرد.
احساسات مونتگومری در یک پست وبلاگ عمیق شرکت IBM با عنوان “توسعه هوش مصنوعی را متوقف نکنید، به جای آن اخلاق را در اولویت قرار دهید” توضیح داده شد، جایی که او نمونه ای از یک رویکرد دقیق تر برای مقررات AI ارائه کرد:
یک وقفه جامع از آموزش هوش مصنوعی تنها منجر به آسیب‌ها و ناکامی‌های بیشتر می‌شود، با روندهای فعلی در صنعت که به نظر می‌رسد سرمایه‌گذاری در تلاش‌های اخلاقی هوش مصنوعی را از اولویت خارج می‌کند.»
طبق یکی دیگر از پست های وبلاگ IBM که تا حدی توسط مونتگومری نوشته شده است، این شرکت معتقد است که هوش مصنوعی باید بر اساس ریسک تنظیم شود – شایان ذکر است که تا آنجا که ما می دانیم، IBM در حال حاضر هیچ مدل هوش مصنوعی پرکار در دسترس عموم را ندارد.
OpenAI مسئول ChatGPT است که احتمالاً محبوب ترین فناوری هوش مصنوعی موجود در دسترس عموم است.
بر اساس مصاحبه ای با Lex Fridman در یک رویداد MIT، آلتمن، مدیرعامل این شرکت از توسعه ایمن و اخلاقی سیستم های هوش مصنوعی حمایت می کند، اما معتقد است که «همه را در بحث مشارکت می دهد» و «گسترش این سیستم ها در سراسر جهان».
این باعث می‌شود که مارکوس تنها فردی پرت باشد که از زمان آغاز به کار این مکث از طرفداران صریح آن بوده است. در حالی که پذیرفته شده است که مارکوس “دستی در تهیه پیش نویس نامه مکث” نداشته است، “آیا وقت آن رسیده است که دکمه مکث را در هوش مصنوعی فشار دهید؟” او یک پست وبلاگی با عنوان حدود یک ماه قبل از انتشار نامه سرگشاده.
در حالی که جلسه استماع آتی سنا به عنوان یک تریبون برای پرسیدن سؤالات اعضای کنگره عمل خواهد کرد، این بحث می تواند پیامدهای مخربی داشته باشد، بسته به اینکه شما به کدام متخصص اعتقاد دارید.
اگر کنگره تصمیم بگیرد که مقررات هوش مصنوعی مستحق کار سنگینی است، کارشناسانی مانند مونتگومری می‌ترسند که چنین تلاش‌هایی می‌تواند بدون توجه به نگرانی‌های امنیتی تأثیری سرد بر نوآوری داشته باشد.
این آسیب می‌تواند به بخش‌هایی از فعالیت نفوذ کند که فناوری GPT مبنای تعداد زیادی ربات و خدمات است. به عنوان مثال، در دنیای فین‌تک، صرافی‌های ارزهای دیجیتال در حال تطبیق فناوری چت‌بات برای ارائه خدمات به مشتریان، تجارت و تحلیل بازار هستند.
با این حال، کارشناسانی مانند مارکوس و ایلان ماسک نگران هستند که عدم اجرای سیاست عقل سلیم در مورد نظارت هوش مصنوعی می تواند منجر به یک بحران وجودی برای بشریت شود.
نویسنده: Tristan Greene
