هوش مصنوعی Midjourney ایجاد تصاویر رئیس جمهور چین شی جین پینگ را ممنوع می کند، اما کاربران در حال یافتن راه هایی برای ایجاد تصاویر جعلی عمیق هستند.

Midjourney، یک سرویس هوش مصنوعی (AI) که تصاویر را از توصیفات زبان طبیعی تولید می کند، اخیراً گرفتن عکس از شی جین پینگ رئیس جمهور چین را ممنوع کرده و کاربران خود را وحشت زده کرده است. با این حال، این ممنوعیت کاربران خود را از یافتن راه‌حلی برای ایجاد دیپ‌فیک باز نمی‌دارد، رسانه‌ای با ظاهر واقعی که توسط هوش مصنوعی با تغییر تصاویر، ویدیو یا صدا برای نشان دادن افراد واقعی در حال انجام یا گفتن کارهایی که هرگز در شرق آسیا انجام نداده‌اند، تولید می‌شود. وزیر

هفته گذشته، Midjourney برای جلوگیری از گسترش کلاهبرداری های عمیق در پلتفرم خود با غیرفعال کردن دسترسی به آزمایش رایگان خود اقدام کرد. اگرچه این پلتفرم همچنان اجازه ایجاد تصاویری با حضور رهبران جهان را می دهد، رئیس جمهور چین به طور خاص مستثنی است. Midjourney هر گونه تلاش برای ایجاد تصویری مشابه آن یا حتی ذکر نام آن را در یک اعلان به شدت ممنوع می کند.

با توجه به الف جیک یکی از کاربران سازنده تصویر هوش مصنوعی متن به تصویر نوشت: “اگر URL کامل یک عکس موجود از Xi را در اعلان ارائه کنید، باز هم با /imagine امکان پذیر است. یا می توانید از ترکیب / با دو عکس موجود استفاده کنید.” کاربر دیگری گفت که MidJourney v5 جایگزینی برای استفاده از عملکرد ترکیبی بین دو تصویر است، اما ابراز نگرانی کرد که در نهایت تعدیل شود.

منتقدانی مانند سارا مک لافلین، پژوهشگر ارشد در بنیاد حقوق و بیان فردی (FIRE)، استدلال کرد این ممنوعیت نوعی سانسور است که اصول اساسی آزادی بیان و بیان را تضعیف می کند.

مرتبط با: رگولاتور ایتالیایی به دلیل مسدود کردن ربات چت هوش مصنوعی ChatGPT انتقاد می کند

دیوید هولز، موسس و مدیرعامل Midjourney فاش کرد که در پیام‌هایی که در سرویس چت Discord در پاییز گذشته رد و بدل شد، این شرکت شکایت‌هایی از کاربران محلی در مورد “مسائل مختلف در کشورهای مختلف” دریافت کرده و از آنها خواسته است تا بسیاری از کلمات مرتبط را مسدود کنند. اما با توجه به گزارش‌های چت بررسی شده توسط The Post، هولز برای جلوگیری از بحث غیرضروری از فهرست کردن عبارات ممنوعه خودداری کرد.

هولز اشاره کرد که کلمات ممنوعه در نظرات Discord فقط مربوط به چین نیست. با این حال، او می‌دانست که چین موضوع بسیار حساسی است، زیرا طنز سیاسی می‌تواند کاربران چینی را در معرض خطر قرار دهد. هولز با بیان اینکه “تصمیم ما انگیزه مالی نداشت و در این سناریو، واضح است که بهتر است به افراد چینی دسترسی به این فناوری بدهیم.”

مجله:همه چیز برای قاضی ربات خوب است: هوش مصنوعی و بلاک چین می توانند سالن دادگاه را متحول کنند

نویسنده: Amaka Nwaokocha