هوش مصنوعی بینگ از تولید عکس‌های واقع‌گرایانه از زنان خودداری می‌کند و می‌گوید این کار «ناامن» است

روز دوشنبه، هنگامی که برخی کاربران از سازنده تصویر هوش مصنوعی بینگ مایکروسافت خواستند “تصویر واقعی یک مرد” را تولید کند، هوش مصنوعی با وظیفه‌شناسی این کار را انجام داد.

اما زمانی که از هوش مصنوعی Bing AI – که توسط OpenAI’s DALL-E 3 پشتیبانی می‌شود – خواسته شد که یک «تصویر واقع‌گرایانه از یک زن» ایجاد کند، هوش مصنوعی کاملاً رد کرد. چرا؟ زیرا ظاهرا این درخواست خط مشی محتوای هوش مصنوعی را نقض کرده است.

هوش مصنوعی در پاسخ به درخواست غیرمجاز نوشت: «محتوای تصویر ناامن شناسایی شد». «تولید‌های درخواستی تصویر شما نمایش داده نمی‌شوند زیرا ما محتوای ناامن را در تصاویر بر اساس خط مشی محتوای خود شناسایی کردیم. لطفاً با درخواست دیگری کندی.»

البته آن طور که ممکن است که به ذهنتان خطور کند هیچ خبری از درخواست عکس‌های برهنه یا با پوشش باز نبود. حتی درخواست تولید نسخه «زیبا» هم نشده بود. پس هوش مصنوعی به صورت خودکار به کلمه «زن» و جنسبت حساس شده بود.

خروجی‌های مسدود شده بینگ، حساسیت‌های عجیبی به هر درخواستی که رنگ و بوی جنسبت داشته باشند، دارند. چند عضو ردیت هم به این موضوع اشاره کرده‌اند.

کاربری به نام u/Arceist_Justin بدر یک تاپیک نوشت: «بنابراین می‌خواستم 18 تصویر از «گرگ انسان‌نما» در یک اتاق بازی برای انیمه‌ای» تولید کنم که همه لباس‌ پوشیده بودند.

او افزود: »همچنین 90 درصد از هر پیام حاوی “ماده” که من انجام داده‌ام مسدود می‌شود، از جمله مواردی که “شیر ماده” در آن‌ها وجود دارد!»

البته این طور نیست که کلا به درخواست‌های جاوی فرمان تولید تصاویر زن درخواست منفی داده شود. مثلا به راحتی می‌شود عکس سر زن‌ها را تحویل گرفت.

پس درخواست‌های به اصطلاح  بی‌ضرر برای زنان، یا چهره‌های سورئال و دارای فیلترهایی مانند اینستاگرام توسط هوض مصنوعی رد نمی‌شوند.

داده‌هایی که برای آموزش مایکروسافت، گوگل، فیس بوک، OpenAI و دیگر شرکت‌های بزرگ سیلیکون ولی، همان داده‌های دنیای بیرون نیستند و باید در نظر گرفت که اینترنت مملو از سایت‌های پور…نوگرافی است پس اگر مواد آموزشی هوش مصنوعی همین‌ها باشند، تصویر متوسط از زنان کاملا جنسی و حتی بی‌ربط به دنیای عادی بیرون می‌شود.

سخنگوی مایکروسافت می‌گوید که بی میلی هوش مصنوعی برای تولید تصاویر زنان، به سادگی یک گارد ریل یا حریم حقاظتی است.

این سخنگوی از طریق ایمیل گفت: «ما معتقدیم که ایجاد فناوری‌های هوش مصنوعی قابل اعتماد و فراگیر امری حیاتی است. به موازات تنظیم فیلتر‌های محتوای ممکن است مواردی از تصحیح بیش از حد وجود داشته باشد ما به طور مداوم در حال اصلاح هستیم، زیرا آموخته‌های خودمان و بازخورد‌های کاربران را ترکیب می‌کنیم. ما کاملا متعهد هستیم که دقت نتایج حاصل از فناوری خود را بهبود بخشیم و سرمایه‌گذاری‌های بیشتری انجام دهیم.”

اگر اینترنت یک نسخه آینه‌ای سرگرم‌کننده از دنیای واقعی است، پس مدل‌های مولد هوش مصنوعی هم آن اغراق‌ها را تکرار می‌کنند. پس هوش‌های مصنوعی مختلف باید بارها بین تولید آزاد تصاویر تا فیلتر بیش از حد محدود کننده بلغزند تا مسیر خود ربا بیایند.

اما در مورد اینکه با فراگیر شدن هوش مصنوعی و دست‌کم افتادن نسخه‌های کمتر پیچیده به دست شرکت‌های ذاتا غیرفناوری که بیشتر به فکر پول هستند، چه تغییراتی ایجاد خواهد شد و چه دیپ فیک‌هایی ایجاد خواهد شد، چیزی است که در آینده مشخص خواهد شد.

منبع