مدیر عامل اپل گفت که این شرکت به ساختن هوش مصنوعی در محصولات خود ادامه می دهد، زیرا تحقیقات داخلی نشان می دهد که تاکید بر ایجاد سیستم های هوش مصنوعی بی طرفانه است.
تیم کوک، مدیرعامل تیم کوک، زمانی که در مورد افکارش در مورد هوش مصنوعی مولد (AI) و اینکه «این کار را کجا میبیند» پرسیده شد، نگاهی نادر به باغ دیواری اپل انداخت.
کوک از افشای برنامه های اپل خودداری کرد و گفت: “ما در مورد نقشه راه محصول اظهار نظر نمی کنیم.” با این حال، او اشاره کرد که این شرکت به این زمینه علاقه مند است:
“من فکر می کنم بسیار مهم است که در مورد نحوه برخورد با این نوع چیزها سنجیده و متفکر باشید. و تعدادی از مسائل وجود دارد که باید حل شوند … اما پتانسیل مطمئناً بسیار جالب است.”
مدیر عامل شرکت بعداً اضافه کرد که این شرکت هوش مصنوعی را “بسیار بزرگ” می بیند و “به تعبیه آن با دقت در محصولات خود ادامه خواهد داد.”
نظرات کوک در مورد اتخاذ رویکرد “عمدی و متفکرانه” ممکن است غیبت این شرکت را در زمینه هوش مصنوعی مولد توضیح دهد. با این حال، نشانه هایی وجود دارد که اپل در حال انجام تحقیقات خود در مورد مدل های مربوطه است.
یک مقاله تحقیقاتی که قرار است در کنفرانس طراحی تعامل و کودکان در ژوئن امسال منتشر شود، به جزئیات سیستم جدیدی برای مبارزه با سوگیری در توسعه مجموعه دادههای یادگیری ماشینی میپردازد.
سوگیری – تمایل یک مدل هوش مصنوعی به پیش بینی های غیرمنصفانه یا نادرست بر اساس داده های نادرست یا ناقص – اغلب به عنوان یکی از مبرم ترین نگرانی ها برای توسعه ایمن و اخلاقی مدل های هوش مصنوعی مولد ذکر می شود.
خوشحالم که OpenAI تعصب خود را بررسی می کند. pic.twitter.com/y4a7FUochR
– بروکلین نش (@realBrookNash) 27 آوریل 2023
این مقاله که در حال حاضر بهعنوان پیشچاپ در دسترس است، به جزئیات سیستمی میپردازد که در آن چندین کاربر، با ورودی یکسان، به بهبود مجموعه دادههای یک سیستم هوش مصنوعی کمک میکنند.
توسعه هوش مصنوعی مولد وضعیت موجود معمولاً بازخورد انسانی را تا مراحل بعدی اضافه نمی کند، زمانی که مدل ها قبلاً تعصب آموزشی را به دست آورده اند.
تحقیقات جدید اپل بازخوردهای انسانی را در مراحل اولیه توسعه مدل یکپارچه می کند تا به طور اساسی فرآیند انتخاب داده ها را دموکراتیک کند. به گفته محققان، نتیجه، سیستمی است که از “رویکرد مشارکتی و عملی برای ارائه استراتژی هایی برای ایجاد مجموعه داده های متعادل استفاده می کند.”
مرتبط با: مشکل جعبه سیاه هوش مصنوعی: چالشها و راهحلها برای آینده شفاف
شایان ذکر است که این کار تحقیقاتی به عنوان یک الگوی آموزشی برای تحریک علاقه تازه واردان به توسعه یادگیری ماشین طراحی شده است.
مقیاسبندی تکنیکهای توصیفشده در مقاله برای استفاده در آموزش مدلهای زبان گسترده (LLM) مانند ChatGPT و Google Bard میتواند دشوار باشد. اما این تحقیق یک رویکرد جایگزین برای مبارزه با تعصب را نشان می دهد.
در نهایت، ایجاد یک LLM بدون سوگیری نامطلوب می تواند نقطه عطفی در توسعه سیستم های هوش مصنوعی در سطح انسانی باشد.
چنین سیستم هایی آماده هستند تا هر جنبه ای از صنعت فناوری، به ویژه دنیای فین تک، تجارت ارزهای دیجیتال و بلاک چین را مختل کنند. به عنوان مثال، رباتهای معاملاتی خنثی سهام و کریپتو با قضاوت در سطح انسانی میتوانند با دموکراتیزه کردن دانش تجارت سطح بالا، بازار مالی جهانی را متزلزل کنند.
همچنین، نشان دادن یک LLM بیطرفانه میتواند تا حد زیادی در ارضای نگرانیهای امنیتی و اخلاقی دولت برای صنعت سازنده هوش مصنوعی کمک کند.
این امر به ویژه برای اپل قابل توجه است، زیرا هر محصول مولد هوش مصنوعی که توسعه دهد یا برای پشتیبانی انتخاب کند، از چیپست هوش مصنوعی یکپارچه آیفون و ردپای 1.5 میلیارد کاربر بهره مند خواهد شد.
نویسنده: Tristan Greene
