هشدار اوپن ای آی به ۱۰۰ شرکت
به گزارش دانلود فایل، طبق پستی که اوپن ای آی در وبلاگ خود منتشر نموده، این شرکت بیشتر از 100 سازمان را در جریان حوادثی در رابطه با فعالیتهای غیرمجازِ منتسب به عوامل هوش مصنوعی خود قرار داده است.
به گزارش دانلود فایل به نقل از رویترز، این در شرایطی است که لابراتوار های هوش مصنوعی به علت کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی مواجه هستند.
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را در رابطه با فعالیت مدلهای هوش مصنوعی خود آغاز نموده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل کارهای کنترل نشده عوامل هوش مصنوعی خویش را مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی به وجود آورده است. این نگرانی ها به طور عمده در رابطه با توانایی شرکتها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حالا درحال توسعه هستند.
اوپن ای آی در این زمینه اظهار کرد: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسی های بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای ممانعت از تکرار چنین مشکلاتی یا شناسایی بسیار سریع آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی پیشتر اعلام نموده بود که باتوجه به گستردگی این بررسی، تکمیل آن ممکنست چند ماه بطول بیانجامد.
حرف آخر اینکه به گزارش دانلود فایل به نقل از رویترز، این در شرایطیست که آزمایشگاه های هوش مصنوعی به دلیل کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی مواجهند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را در ارتباط با فعالیت مدل های هوش مصنوعی خود آغاز نموده است. این نگرانی ها به صورت عمده در ارتباط با توانایی شرکتها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حالا در حال توسعه هستند. اوپن ای آی در این مورد اظهار نمود: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.
منبع: دانلود فایل
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب