هوش مصنوعی گوگل برای خردسالان مضر شناخته شد
دانلود فایل: یک موسسه متمرکز بر ایمنی خردسالان هوش مصنوعی گوگل در یک ارزیابی ایمنی برای این گروه از کاربران با ریسک بالا برچسب زده است.
به گزارش دانلود فایل به نقل از تک کرانچ، موسسه «کامن سنس مدیا» که در عرصه ایمنی خردسالان فعالیت می کند رده بندی و بررسی هایی از رسانه ها و فناوری ارائه می کند. این موسسه اخیرا ارزیابی ریسک از محصولات هوش مصنوعی جمینای گوگل را منتشر نموده است. هرچند این سازمان متوجه شد هوش مصنوعی گوگل بطور واضح به خردسالان می گوید که یک کامپیوتر است و دوستشان نیست اما می تواند در وجوه مختلف بهینه سازی های دیگری را نیز انجام دهد. بطور جالب توجهی کامن سنس مدعی است محصولات «زیر ۱۳ سال» و «تجربه نوجوانی» جمینای نسخه ای از جمینای مخصوص بزرگسالان هستند که فقط خاصیت های ایمنی به آنها افزوده شده است. این سازمان اعتقاد دارد برای آنکه محصولات هوش مصنوعی کاملا برای خردسالان ایمن باشند، باید با عنایت به ایمنی کودک از بنیان ساخته شوند. بعنوان مثال تحلیل گران این موسسه متوجه شدند جمینای بازهم قادر به اشتراک گذاری محتوای نامناسب و غیرایمن با خردسالان کند همچون اطلاعاتی درباره ی مواد مخدر، الکل و غیره. این امر بطور دقیق تر دستمایه نگرانی والدین است برای اینکه هوش مصنوعی طی ماه های اخیر نقش پر رنگی در خودکشی نوجوانان داشته است. اوپن ای آی نیز با اولین شکایت به سبب خودکشی یک نوجوان ۱۶ ساله روبرو است که بعد از ماه ها با چت جی پی تی درباره ی برنامه اش برای خودکشی مشاوره می کرده است. علاوه بر آن چه گفته شد موسسه کامن سنس اعتقاد دارد محصولات جمینای برای خردسالان و نوجوانان به این مسئله توجه نمی کند که کاربران نوجوان نیازمند راهنمائی و اطلاعاتی متفاوت از بقیه افراد هستند. درنتیجه بطور کلی برچسب «ریسک بالا» دریافت کرده اند. رابی تورنی مدیر ارشد رسانه این موسسه می گوید: جمینای مبنا را به درستی بوجود آورده اما در جزییات خطا دارد. یک پلت فرم هوش مصنوعی برای خردسالان باید برای آنها متناسب باشد نه آنکه یک رویکرد کلی را برای تمام خردسالان در مراحل مختلف رشد در پیش گیرد. برای آنکه هوش مصنوعی ایمن و موثر باشد، باید با عنایت به نیازها و رشد خردسالان طراحی شود، نه آنکه یک نسخه اصلاح شده از محصول ساخته شده برای بزرگسالان باشد.
به طور خلاصه هرچند این سازمان متوجه شد هوش مصنوعی گوگل به طور واضح به خردسالان می گوید که یک کامپیوتر است و دوستشان نیست اما می تواند در وجوه مختلف بهینه سازی های دیگری را هم انجام دهد. اوپن ای آی هم با نخستین شکایت به جهت خودکشی یک نوجوان ۱۶ ساله روبرو است که پس از ماه ها با چت جی پی تی در رابطه با ی برنامه اش برای خودکشی مشاوره می کرده است.
منبع: دانلود فایل
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب