آیا هوش مصنوعی مانند سلاحهای هستهای یک تهدید وجودی است یا به اندازه یک توستر احتمال مرگ ما را دارد؟ چرا همه زمینه های هوش مصنوعی در یک زمان و بازی های تصویری احمقانه در حال پیشرفت هستند.
همانطور که ما به کسی اجازه نمی دهیم هواپیما بسازد و مسافران را به اطراف بفرستد یا مواد مخدر طراحی و راه اندازی کند، چرا باید اجازه دهیم مدل های هوش مصنوعی بدون آزمایش و مجوز مناسب در طبیعت منتشر شوند؟
این استدلال تعداد فزاینده ای از کارشناسان و سیاستمداران در هفته های اخیر است.
با برگزاری نشست جهانی امنیت هوش مصنوعی در بریتانیا در پاییز و نظرسنجیها که نشان میدهد حدود 60 درصد مردم موافق مقررات هستند، به نظر میرسد احتمال مترسکهای جدید بیش از پیش افزایش مییابد.
یک الگوی خاص، مقایسه فناوری هوش مصنوعی با یک تهدید وجودی مانند سلاح های هسته ای است، همانطور که در یک هشدار 23 کلمه ای ارسال شده توسط مرکز امنیت هوش مصنوعی با امضای صدها دانشمند:
کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند اپیدمی ها و جنگ هسته ای یک اولویت جهانی باشد.
سام آلتمن، مدیر عامل OpenAI، با گسترش این استعاره، بر ایجاد یک سازمان جهانی مانند آژانس بینالمللی انرژی اتمی برای نظارت بر این فناوری فشار میآورد.
در هند این هفته ما در مورد آژانس بینالمللی انرژی اتمی به عنوان مدلی صحبت میکنیم که در آن جهان میگوید “بسیار خوب، فناوری بسیار خطرناک، بیایید همه چند نرده نصب کنیم”.
آزادیخواهان استدلال می کنند که اغراق در تهدید و درخواست مقررات ترفندی است که توسط شرکت های پیشرو هوش مصنوعی برای الف) تحمیل کنترل مستبدانه و ب) سرکوب رقابت از طریق مقررات استفاده می شود.
آرویند نارایانان، استاد علوم کامپیوتر پرینستون هشدار میدهد: «ما باید مراقب پرومتهها باشیم که میخواهند هم از آوردن آتش به انسان سود ببرند و هم به عنوان آتشنشان به آنها اعتماد شود.
نت اسکیپ و یکی از بنیانگذاران a16z، مارک آندرسن، این هفته مجموعه ای از مقالات را در مورد دیدگاه اتوپیایی تکنولوژیکی او برای هوش مصنوعی منتشر کردند. او زندانیان هوش مصنوعی را به یک فرقه روز قیامت تشبیه کرد و استدلال کرد که هوش مصنوعی به اندازه یک توستر احتمال نابودی بشریت را ندارد زیرا: هوش مصنوعی نمیخواهد، هدفی ندارد و نمیخواهد شما را بکشد، زیرا زنده نیست.
این ممکن است درست باشد یا نباشد، اما با این حال، ما فقط درک مبهمی از آنچه در درون جعبه سیاه فرآیندهای فکری هوش مصنوعی میگذرد داریم. اما، همانطور که خود آندریسن اذعان می کند، اکنون این سیاره پر از افراد بی معنی است که می توانند از هوش مصنوعی بخواهند یک سلاح بیولوژیکی طراحی کند، یک حمله سایبری انجام دهد، یا در انتخابات دستکاری کند. بنابراین حتی اگر از Skynet اجتناب کنیم، می تواند در دستان اشتباه خطرناک باشد.نابود کننده سناریو.
مقایسه هستهای احتمالاً بسیار آموزنده است، زیرا در دهه 1940 مردم در فرصتهای واقعی فنآوری هستهای غرق شده بودند. برخی از اعضای تیم پروژه منهتن آنقدر نگران بودند که بمب ممکن است یک واکنش زنجیره ای را آغاز کند، جو را مشتعل کند و تمام حیات روی زمین را بسوزاند، که آنها را تحت فشار قرار دادند تا پروژه رها شود.
پس از پرتاب بمب، آلبرت انیشتین آنقدر در مورد گستردگی تهدید متقاعد شده بود که برای استقرار فوری یک دولت جهانی با کنترل انحصاری زرادخانه فشار آورد.
چه کسی در المپیک کریپتو و بلاک چین طلا می گیرد؟
Terra ما را به طرز باورنکردنی تحت تأثیر قرار داد: Sunny Aggarwal از آزمایشگاه های اسموز
هیچ دولت جهانی وجود نداشت، اما جامعه بینالملل آنقدر این تهدید را جدی گرفت که در 80 سال گذشته، مردم توانستهاند خود را منفجر نکنند. کشورها توافق نامه هایی را برای آزمایش تسلیحات هسته ای فقط در زیرزمین به منظور محدود کردن اثرات رادیواکتیو و ایجاد رژیم های کنترل امضا کرده اند و اکنون تنها 9 کشور دارای سلاح هسته ای هستند.
در پادکست خود درباره تأثیرات هوش مصنوعی بر جامعه، معضل هوش مصنوعیتریستان هریس و آزا راسکین از استقرار ایمن مدلهای هوش مصنوعی آزمایششده بسیار حمایت میکنند.
من به این استقرار عمومی هوش مصنوعی به عنوان یک آزمایش هوش مصنوعی در سطح زمین فکر می کنم. هریس استدلال کرد: “نیازی به انجام این کار نداریم.”
میتوانیم فرض کنیم که سیستمهایی با ظرفیتهایی که مهندسان حتی نمیدانند این ظرفیتها چقدر هستند، تا زمانی که خلاف آن ثابت نشود، ایمن نیستند. ما آنها را وارد محصولاتی مانند اسنپ چت نمیکنیم و میتوانیم مسئولیت اثبات اینکه چرا فکر میکنند (نه) خطرناک است را بر عهده تولیدکنندگان هوش مصنوعی بگذاریم تا شهروندان.
همچنین بخوانید: هوش مصنوعی رباتی که قاضی میکند و همه تقویتهای بلاک چین میتواند سالن دادگاه را تغییر دهد
جن از بطری خارج شده است
البته، تنظیم هوش مصنوعی می تواند مانند ممنوعیت بیت کوین باشد: در تئوری خوب، در عمل غیرممکن است. سلاحهای هستهای یک فناوری بسیار تخصصی است که تنها تعداد انگشت شماری از دانشمندان در سراسر جهان آن را درک میکنند و به اورانیوم غنیشده نیاز دارند که دستیابی به آن فوقالعاده دشوار است. در همین حال، هوش مصنوعی منبع باز به صورت رایگان در دسترس است و حتی می توانید یک مدل هوش مصنوعی شخصی را دانلود کرده و آن را روی لپ تاپ خود اجرا کنید.
برایان رومل، متخصص هوش مصنوعی می گوید این که از 450 مدل هوش مصنوعی منبع باز در دسترس عموم آگاه است و موارد بیشتری تقریبا هر ساعت انجام می شود. مدل های خاص در 1000s تا 100s هستند.
Roemmele حتی در حال ساخت سیستمی است که به هر رایانه قدیمی با مودم شماره گیری امکان می دهد به یک هوش مصنوعی میزبان محلی متصل شود.
ما در تلاش هستیم تا ChatGPT را از طریق مودم شماره گیری در دسترس قرار دهیم.
هنوز روزهای اول است و من کار دارم.
در نهایت این به یک نسخه محلی GPT4All پیوند می دهد.
این بدان معناست که هر رایانه قدیمی با مودم های شماره گیری می تواند به هوش مصنوعی LLM متصل شود.
بعدی اتصال هوش مصنوعی از COBOL به LLM است! pic.twitter.com/ownX525qmJ
برایان رومل (@BrianRoemmele) 8 ژوئن 2023
امارات متحده عربی نیز یک مدل AI با زبان بزرگ منبع باز، مدل Falcon 40B، بدون حق امتیاز برای اهداف تجاری و تحقیقاتی منتشر کرده است. ادعا می کند که از رقبایی مانند Metas LLaMA و Stability AIs StableLM بهتر عمل می کند.
بر اساس تحقیقات Runway، حتی یک تولیدکننده ویدیوی متنبه-ویدیویی متنباز به تازگی منتشر شده به نام Potat 1 وجود دارد.
خوشحالم که مردم از Potat 1 برای ایجاد ویدیوهای خیره کننده استفاده می کنند.
هنرمند: @iskarioto https://t.co/Gg8VbCJpOY#متن باز #تولید کننده هوش مصنوعی #مدلسکوپ #متن ویدئو #text2videosu @80 Level @ClaireSilver12 @LambdaAPI https://t.co/obyKWwd8sR pic.twitter.com/2Kb2a5z0dH
kamenduru (@camenduru) 6 ژوئن 2023
دلیل اینکه همه زمینه های هوش مصنوعی به طور همزمان پیشرفت می کنند
از متن هوش مصنوعی گرفته تا ساخت ویدیو و آهنگ، ویرایش عکس با ظاهر جادویی، شبیه سازی صدا، و تقلب های عمیق با یک کلیک، در یک سال گذشته شاهد انفجاری باورنکردنی در استعدادهای هوش مصنوعی به طور کلی بوده ایم. پس چرا همه این پیشرفت ها در یک زمان در بسیاری از زمینه های مختلف اتفاق افتاد؟
آزا راسکین، ریاضیدان و یکی از بنیانگذاران پروژه انواع جهانی، توضیح انگلیسی ساده و جذابی برای این موضوع ارائه کرد. معضل هوش مصنوعیاین پیشرفت با مدل یادگیری ماشینی ترانسفورماتور را برجسته می کند.
رسانه های اجتماعی غیرمتمرکز: چیز بزرگ بعدی در کریپتو؟
از هر 10 فروش NFT، 4 مورد جعلی است: یاد بگیرید علائم تجارت شستشو را تشخیص دهید
او توضیح داد که یکی از این بینش ها این بود که شما می توانید با همه چیز به عنوان زبان رفتار کنید. بنابراین، برای مثال، می توانید عکس بگیرید. شما می توانید با آن مانند یک زبان مختلف رفتار کنید، این چیزی نیست جز مجموعه ای از تصاویر که می توانید آنها را به صورت خطی مرتب کنید و می توانید حدس بزنید که چه اتفاقی می افتد.
ChatGPT اغلب به ماشینی تشبیه میشود که کلمه بعدی را پیشبینی میکند، بنابراین اگر چیزی دیجیتالی را بتوان به یک زبان ترجمه کرد، میتوانید امکانات تولید کلمه بعدی را ببینید.
بنابراین، تصاویر را می توان به عنوان زبان در نظر گرفت، شما صدا را به نام های کوچک میکروفون تقسیم می کنید، حدس می زنید که کدام یک از آنها خواهد آمد، آن یک زبان خواهد بود. داده های fMRI به یک نوع زبان تبدیل می شود، DNA نوع دیگری از زبان است. و به طور ناگهانی، هر پیشرفتی در هر نقطه از دنیای هوش مصنوعی به پیشرفت در سراسر جهان هوش مصنوعی تبدیل شده است. شما فقط می توانید کپی و جایگذاری کنید و ببینید که چگونه پیشرفت ها اکنون در کل مجموعه فیلدها فوراً ضرب می شوند.
هست و نیست آینه سیاه
بسیاری از مردم مشاهده کرده اند که پیشرفت های اخیر در هوش مصنوعی چیزی غیرعادی به نظر می رسد. آینه سیاه. اما خالق چارلی بروکر به نظر می رسد تصور می کند تخیل بسیار جذاب تر از واقعیت است و به مجله امپایر گفت که از ChatGPT خواسته تا یک قسمت بنویسد. آینه سیاه و نتیجه کار مزخرف بود
بروکر گفت: «من کمی با ChatGPT بازی کردم. اولین کاری که کردم این بود که یک قسمت آینه سیاه ساختم و به چیزی رسیدم که در نگاه اول معقول به نظر می رسید، اما در نگاه دوم تلخ. به گفته بروکر، هوش مصنوعی به تازگی شروع به کار کرده و طرح قسمت های مختلف را به یک آشفتگی کامل تبدیل کرده است.
او گفت: “اوه، در واقع هیچ فکر اصلی در اینجا وجود ندارد.”
عکس های هفته هوش مصنوعی
یکی از چیزهای خوب در مورد برنامه های رندر متن به گفتار هوش مصنوعی این است که می توانند بازی های کلمه یکبار مصرف را به تصاویری گران قیمت تبدیل کنند که هیچ طراح گرافیکی زحمت ایجاد آن را نمی دهد. در اینجا عجایب جهان (به لطف redditor mossymayn) توسط هوش مصنوعی اشتباه تایپ شده است.
ویدیوی هفته
محققان دانشگاه کمبریج هشت دستور غذای ساده سالاد را به یک سرآشپز ربات هوش مصنوعی نشان دادند که سپس توانست خودش سالاد را درست کند و نهمین دستور سالاد را به تنهایی ارائه کند.
نویسنده: Andrew Fenton
