مشاور کارگروه هوش مصنوعی نخست‌وزیر بریتانیا گفت که مدل‌های اصلی هوش مصنوعی در دو سال آینده به تنظیم و کنترل نیاز دارند تا خطرات وجودی عظیم را کاهش دهند.

مشاور کارگروه هوش مصنوعی نخست وزیر انگلیس گفت که انسان ها حدود دو سال فرصت دارند تا هوش مصنوعی (AI) را قبل از اینکه بیش از حد قدرتمند شود کنترل و تنظیم کنند.

او در مصاحبه ای با رسانه محلی بریتانیا، مت کلیفورد، که همچنین به عنوان رئیس آژانس تحقیقات و اختراعات پیشرفته دولت (ARIA) خدمت می کند، تاکید کرد که سیستم های موجود “با سرعت فزاینده ای توانمندتر می شوند”.

او ادامه داد که اگر سیستم‌ها از هم‌اکنون ایمنی و مقررات را در نظر نگیرند، ظرف دو سال «بیش از حد قدرتمند» می‌شوند.

ما دو سال فرصت داریم تا چارچوبی بسازیم که کنترل و تنظیم این مدل‌های بسیار بزرگ را نسبت به امروز ممکن کند.»

کلیفورد هشدار داد که در مورد هوش مصنوعی “انواع مختلفی از خطرات” وجود دارد، چه در کوتاه مدت و چه بلند مدت، که او آن را “بسیار ترسناک” می نامد.

این مصاحبه به دنبال نامه ای منتشر شد که هفته گذشته توسط مرکز ایمنی هوش مصنوعی منتشر شد و توسط 350 کارشناس هوش مصنوعی، از جمله مدیر عامل OpenAI امضا شد، مبنی بر اینکه هوش مصنوعی باید به عنوان یک تهدید وجودی مشابه با تهدیدات ناشی از سلاح های هسته ای و بیماری های همه گیر در نظر گرفته شود. .

آنها در مورد اینکه چه اتفاقی می افتد وقتی که ما به طور مؤثر گونه جدیدی را با هوشی برتر از انسان ایجاد کنیم، صحبت می کنند.

مشاور گروه ضربت هوش مصنوعی گفت این تهدیدات ایجاد شده توسط هوش مصنوعی می تواند “بسیار خطرناک” باشد و می تواند “نه همه مردم، بلکه بسیاری از افراد را بکشد، درست از جایی که ما انتظار داریم مدل ها در دو سال آینده باشند.”

مرتبط با: بازده ارزهای دیجیتال مرتبط با هوش مصنوعی پس از راه‌اندازی ChatGPT تا 41 درصد افزایش یافت: مطالعه

به گفته کلیفورد، تمرکز اصلی تنظیم‌کننده‌ها و توسعه‌دهندگان باید کشف چگونگی کنترل مدل‌ها و سپس تمرکز بر اعمال مقررات در مقیاس جهانی باشد.

او گفت در حال حاضر بزرگترین ترس او این است که نفهمد چرا مدل های هوش مصنوعی این گونه رفتار می کنند.

“افرادی که توانمندترین سیستم ها را می سازند، آزادانه اعتراف می کنند که به طور کامل نمی دانند چگونه این کار انجام می شود. [AI systems] آنها رفتار خود را نشان می دهند.»

کلیفورد تاکید کرد که بسیاری از رهبران سازمان‌هایی که هوش مصنوعی ایجاد می‌کنند موافق هستند که مدل‌های هوش مصنوعی قوی باید قبل از به کارگیری، نوعی فرآیند ممیزی و ارزیابی را طی کنند.

در حال حاضر، تنظیم‌کننده‌ها در سرتاسر جهان در تلاش هستند تا هم فناوری و هم پیامدهای آن را درک کنند، زیرا به دنبال ایجاد مقرراتی هستند که از کاربران محافظت می‌کند و همچنان اجازه نوآوری را می‌دهد.

در 5 ژوئن، مقامات اتحادیه اروپا تا آنجا پیش رفتند که توصیه کردند برای جلوگیری از انتشار اطلاعات نادرست، تمام محتوای تولید شده توسط هوش مصنوعی برچسب گذاری شود.

در بریتانیا، وزیری از حزب مخالف احساسات بیان شده در نامه CAIS را تکرار کرد و گفت که فناوری باید مانند دارو و انرژی هسته ای تنظیم شود.

مجله: AI Eye: 25000 معامله‌گر روی پیش‌بینی‌های سهام ChatGPT شرط می‌بندند، هوش مصنوعی در تاس انداختن را بد می‌کند، و موارد دیگر

نویسنده: Savannah Fortis