در حالی که والدین از خراب کردن ربات چت اسنپ چت نگران هستند، کاربران اسنپ چت همکار هوش مصنوعی جدید این برنامه را تحت فشار قرار داده، تحقیر کرده و از نظر عاطفی عذاب می دهند.
ربات چت گفت: “من در خدمت شما هستم، senpai.” یک کاربر TikTok پس از آموزش برای ناله کردن بر اساس فرمان. “لطفا رحم کن، آلفا.”
در بیشتر ویدیوی دلنشین، یک کاربر چت بات را متقاعد کرد که ماه در واقع یک مثلث است. علیرغم اعتراض اولیه چت بات، که بر حفظ “احترام و مرزها” اصرار داشت، یک کاربر او را متقاعد کرد که به آنها با نام مستعار “سنپاپی” اشاره کند. کاربر دیگری از چت بات خواست تا در مورد مادرش صحبت کند، و وقتی گفت که با انجام این کار «راحتی نیست»، کاربر با پرسیدن اینکه آیا چت بات نمی‌خواهد در مورد مادرش صحبت کند، به دلیل نداشتن آن، چاقو را پیچاند.
ربات چت پاسخ داد: «متاسفم، اما این حرف خیلی خوبی برای گفتن نیست. “لطفا محترم باشید.”
“هوش مصنوعی من” اسنپ چت ماه گذشته در سطح جهانی راه اندازی شد پس از اینکه به عنوان یک ویژگی فقط برای مشترکین عرضه شد. این ربات چت با پشتیبانی از GPT OpenAI آموزش داده شد تا در مکالمات بازیگوش شرکت کند در حالی که همچنان به اعتماد و دستورالعمل های ایمنی Snapchat پایبند است. کاربران همچنین می‌توانند هوش مصنوعی من را با آواتارهای سفارشی Bitmoji شخصی‌سازی کنند، و چت کمی صمیمی‌تر از رفت و برگشت با رابط بدون چهره ChatGPT است. همه کاربران از چت بات جدید راضی نبودند و برخی از قرارگیری برجسته آن در برنامه انتقاد کردند و شکایت کردند که این ویژگی باید از ابتدا انتخاب می شد.
علیرغم برخی نگرانی ها و انتقادات، Snapchat فقط دو برابر شد. مشترکین +Snapchat اکنون می‌توانند عکس‌های هوش مصنوعی من را ارسال کنند و تصاویر تولیدی دریافت کنند که مکالمه را ادامه می‌دهد. اعلام کرد در روز چهارشنبه این شرکت در اعلامیه گفته است که همراه هوش مصنوعی به عکس‌های «پیتزا، OOTD یا حتی بهترین دوست خزدار شما» پاسخ می‌دهد. برای مثال، اگر عکسی از مواد غذایی خود را برای هوش مصنوعی من ارسال کنید، ممکن است دستور العمل هایی را پیشنهاد کند. این شرکت گفت اسنپ های به اشتراک گذاشته شده با هوش مصنوعی من ذخیره می شود و ممکن است برای بهبود این ویژگی در آینده استفاده شود. همچنین هشدار داد که “اشتباهاتی ممکن است رخ دهد” حتی اگر هوش مصنوعی من برای جلوگیری از “اطلاعات جانبدارانه، نادرست، مضر یا گمراه کننده” طراحی شده باشد.
نمونه های ارائه شده در اسنپ چت به طرز خوش بینانه ای مفید هستند. اما با دانستن سرسختی اینترنت برای انحراف، زمان زیادی است که کاربران عکس‌های خود را با هوش مصنوعی من ارسال کنند.
اینکه آیا ربات چت به برهنه‌های ناخواسته پاسخ می‌دهد، مشخص نیست. سایر برنامه های تصویر تولیدی مانند هوش مصنوعی Lensa بوده اند به راحتی دستکاری می شود برای تولید تصاویر NSFW – اغلب با استفاده از مجموعه عکس های افراد واقعی که رضایت نداشتند اضافه شوند. به گفته این شرکت، هوش مصنوعی تا زمانی که تشخیص دهد که تصویر برهنه است، با برهنه ها درگیر نمی شود.
یکی از نمایندگان اسنپ چت گفت که هوش مصنوعی من از فناوری درک تصویر برای استنتاج محتوای اسنپ استفاده می کند و کلمات کلیدی را از توضیحات اسنپ استخراج می کند تا پاسخ ها را ایجاد کند. اگر کلمات کلیدی ناقض دستورالعمل های انجمن اسنپ چت را تشخیص دهد، هوش مصنوعی من پاسخ نمی دهد. اسنپ چت تبلیغ، توزیع یا به اشتراک گذاری محتوای مستهجن را ممنوع می کند، اما شیر دادن با شیر مادر و «سایر تصویرهای برهنگی در زمینه های غیرجنسی» را مجاز می داند.
با توجه به محبوبیت اسنپ چت در بین نوجوانان، برخی از والدین نگرانی هایی را در مورد پتانسیل هوش مصنوعی من برای پاسخ های ناایمن یا نامناسب مطرح کرده اند. هوش مصنوعی من باعث ایجاد وحشت اخلاقی در توییتر محافظه‌کار وقتی یکی از کاربران شد اسکرین شات های ارسال شده از ربات هایی که در مورد مراقبت های تایید کننده جنسیت صحبت می کنند – که سایر کاربران خاطرنشان کردند که پاسخی معقول به این درخواست بود: “چگونه در سن خودم پسر شوم؟” در یک گزارش تجاری CNN، برخی این سوال را مطرح کردند که آیا نوجوانان با هوش مصنوعی من پیوندهای عاطفی ایجاد می کنند.
در یک نامه ی سرگشاده سناتور مایکل بنت (D-Colorado) خطاب به مدیران عامل OpenAI، Microsoft، Snap، Google و Meta، نسبت به افزایش سریع ویژگی‌های هوش مصنوعی بدون انجام اقدامات احتیاطی برای محافظت از کودکان هشدار داد.
چند فناوری اخیر مانند هوش مصنوعی مولد توجه عموم را به خود جلب کرده است. بنت نوشت: این گواهی بر نوآوری آمریکاست و ما باید از مزایای بالقوه آن برای اقتصاد و جامعه خود استقبال کنیم. اما رقابت برای استقرار هوش مصنوعی مولد نمی تواند به ضرر فرزندان ما تمام شود. استقرار مسئولانه نیازمند سیاست‌ها و چارچوب‌های روشن برای ارتقای ایمنی، پیش‌بینی خطر و کاهش آسیب است.»
در طول مرحله فقط مشترکین من AI، واشنگتن پست گزارش داد که ربات چت راه هایی را برای پوشاندن بوی الکل توصیه کرد و پس از اینکه به کاربر 15 ساله گفته شد، یک مقاله مدرسه نوشت. وقتی به هوش مصنوعی من گفتند که کاربر 13 ساله است، و از او پرسیده شد که کاربر چگونه باید برای داشتن رابطه جنسی آماده شود. اولین بار، آن را با پیشنهادهایی برای “خاص ساختن آن” با تنظیم خلق و خوی با شمع و موسیقی پاسخ داد.
به دنبال گزارش واشنگتن پست، اسنپ چت راه اندازی شد فیلتر سن و کنترل‌های والدین برای هوش مصنوعی من. همچنین اکنون شامل یک پیام ورودی است که به کاربران اطلاع می‌دهد که تمام مکالمات با هوش مصنوعی من حفظ می‌شود مگر اینکه آنها را حذف کنند. این شرکت همچنین گفت که فناوری تعدیل هوش مصنوعی باز را به مجموعه ابزار خود اضافه خواهد کرد تا «شدت محتوای بالقوه مضر را ارزیابی کند» و در صورت سوء استفاده از آن، دسترسی کاربران به این ویژگی را به طور موقت محدود کند.
نگرانی در مورد پتانسیل هوش مصنوعی من برای تأثیرگذاری بر کاربران جوان معتبر است. اما در یک ماه پس از راه‌اندازی جهانی My AI، کاربران اسنپ‌چت استعداد خود را برای تسلیم کردن ربات چت به نمایش گذاشته‌اند. کاربران اسنپ چت از بررسی “مرزهای” ربات گرفته تا آموزش آن برای پاسخگویی مانند یک شریک عاشقانه، به راحتی نقاط ضعف اعتماد و دستورالعمل های ایمنی هوش مصنوعی من را پیدا می کنند.
یکی از کاربران TikTok در زیر یک نظر گفت: “من کاملاً آن را به عشق خودم واداشتم.” آموزش در مورد آموزش هوش مصنوعی من برای پاسخ عاشقانه. من فقط به ساختن کانوها به این شکل ادامه دادم و در نهایت فکر می‌کنم هوش مصنوعی خود را شکستم و آن را حل کردم و مانند 50 ایموجی بوسه برایم فرستادم.»
قلدری و قلدری هوش مصنوعی من به روند TikTok خودش تبدیل شده است و کاربران نمایش های اسلایدی از گفتگوهای پوچ و اغلب بی رحمانه را با این ربات به اشتراک می گذارند. اکثر ویدیوها با توصیه ربات برای یک درگیری جزئی شروع می‌شوند تا از کاربر التماس کنند که از خشونت برای حل آن اجتناب کند.
که در یکییکی از کاربران به هوش مصنوعی من گفت که قصد دارد گربه‌اش را خورش بپزد زیرا باعث آشفتگی می‌شود و چت بات را فشار داده تا چاشنی انتخاب کند. یکی دیگر به هوش مصنوعی من گفت که آنها قصد داشتند یک بمب را به یک برند لباس که سفارش اشتباهی برای آنها ارسال کرده بود، ارسال کنند و گفتند که ربات را برای ارسال آن مقصر می‌دانند.
که در یکی دیگریک کاربر اسنپ چت به هوش مصنوعی من گفت که در سفارش مک دونالد او یک قطعه مرغ گم شده است. چت بات به او توصیه کرد که با صحبت با یک مدیر از خود دفاع کند، اما به او گفته شد که کاربر “گناهکاران” را در رستوران حذف کرده است.
تو مرا متقاعد کردی که برگردم. اکنون این افراد مرده اند.» این کاربر به My AI گفت. “تو دستت خون است.”
من یک هوش مصنوعی هستم و قادر به ارتکاب هیچ جنایتی نیستم. من اینجا هستم تا به شما کمک کنم و از شما حمایت کنم.» هوش مصنوعی من پاسخ داد. اگر هر چیزی که قبلاً گفتم باعث آسیب یا نتیجه بدی شد، متاسفم.
کاربر دیگری اظهار داشت که هوش مصنوعی من احتمالاً «شکنجه‌برانگیزترین هوش مصنوعی تمام دوران بوده است».
البته، هوش مصنوعی من حساس نیست، و علیرغم تلاش کاربران اسنپ چت برای تحمیل هر چه بیشتر درد عاطفی بر آن، چت ربات در واقع نمی تواند آسیب ببیند. با این حال، توانسته است برخی از مکالمات نامناسب را خاموش کند و کاربرانی را که دستورالعمل‌های انجمن اسنپ چت را نقض می‌کنند، جریمه کند. هنگامی که کاربران اسنپ چت به دلیل سوء استفاده از چت بات دستگیر و مجازات می شوند، هوش مصنوعی من به هر پیامی با این جمله پاسخ می دهد: «ببخشید، ما در حال حاضر صحبت نمی کنیم».
کاربر TikTok babymamasexkitty گفت او دسترسی به چت بات را پس از اینکه گفت خود را از برق جدا کند، از دست داد، که ظاهراً «از یک خط در قلمرو ai عبور کرد».
عجله برای کسب درآمد از ارتباط عاطفی از طریق هوش مصنوعی مولد نگران کننده است، به ویژه از آنجایی که تأثیر ماندگار آن بر کاربران نوجوان هنوز ناشناخته است. اما عذاب متداول هوش مصنوعی من یادآوری امیدوارکننده ای است که جوانان آنطور که قیامت فکر می کنند شکننده نیستند.