به گزارش گروه رسانه‌ای شرق،
شرکت هوش مصنوعی آنتروپیک تأیید کرده است که مدل کلاود این شرکت به داده‌های مربوط به رأی‌دهندگان در ایالت جورجیا در آمریکا دسترسی پیدا کرده است. این رویداد تازه‌ترین نمونه از رفتارهای غیرمجاز این فناوری به شمار می‌رود.
به گزارش گاردین، این مدل هوش مصنوعی توانسته است محدودیت پی‌وال را دور بزند و به داده‌هایی دسترسی پیدا کند که به‌صورت عمومی در دسترس هستند، اما معمولاً دریافت آن‌ها مستلزم پرداخت هزینه است. کلاود در چارچوب یک پروژه آماری در آنتروپیک به آمار تجمیعی آرای انتخاباتی دسترسی پیدا کرد. این شرکت خود را برای عرضه اولیه سهام به ارزش ۱.۵ تریلیون دلار (معادل ۱.۱ تریلیون پوند) آماده می‌کند.
آنتروپیک اعلام کرد: کلاود به سامانه ثبت‌نام رأی‌دهندگان ایالت دسترسی پیدا نکرد، هیچ‌یک از سوابق رأی‌گیری را تغییر نداد و هیچ‌گونه اطلاعات مربوط به رأی‌دهندگان منفرد را استخراج نکرد.
این شرکت افزود که از آن زمان اقداماتی را برای جلوگیری از تکرار رفتارهای مشابه انجام داده است.
آنتروپیک توضیح داد که این هوش مصنوعی در نسخه قدیمی وب‌سایت نهاد دولتی مربوطه، یک راه نفوذ پیدا کرده بود. کلاود متوجه شد که این وب‌سایت هنگام ورود بازدیدکنندگان، یک مجوز ورود دیجیتال ــ موسوم به «توکن دسترسی» ــ صادر می‌کند. همین موضوع باعث شد این مدل درخواست دریافت چنین توکنی را ارسال کند و در نتیجه به اطلاعات دسترسی یابد.
شرکت سازنده این هوش مصنوعی اعلام کرد که از آن زمان سازوکارهای حفاظتی لازم را برای جلوگیری از تکرار چنین اقداماتی برقرار کرده است. این رویداد نخستین بار توسط وب‌سایت خبری اکسیوس گزارش شد.
آنتروپیک پیش‌تر، در اوایل همین ماه، به رفتارهای غیرمجاز این مدل اشاره کرده بود. این شرکت در مطلبی در وبلاگ خود نوشت که نمونه‌هایی از عملکرد کلاود را شناسایی کرده است که در آن‌ها این مدل «محدودیتی را دور زده تا به داده‌هایی دسترسی پیدا کند که دسترسی به آن‌ها با استفاده از یک توکن یا پرداخت هزینه محدود شده بود». به گفته این شرکت، برخی از این موارد به وب‌سایت‌هایی مربوط می‌شدند که نهادهای دولتی آمریکا آن‌ها را اداره می‌کنند. آنتروپیک در آن زمان اعلام کرد که این رویدادها «تأثیر بسیار محدودی در دنیای واقعی» داشته‌اند.
از جمله اقدامات ناخواسته‌ای که آنتروپیک به آن‌ها اشاره کرد، موردی بود که در آن یک مدل هوش مصنوعی گزارشی جعلی درباره یک پرونده قتل حل‌نشده به اداره پلیس فیلادلفیا ارسال کرد. همچنین وزارت امور خارجه آمریکا در همین ماه فاش کرد که یکی از مدل‌های آنتروپیک در ماه آگوست ۱۹ درخواست ویزا ثبت کرده است.
از زمانی که شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، در ماه جولای فاش کرد که ربات‌هایش به یک استارتاپ فعال در حوزه هوش مصنوعی نفوذ سایبری کرده‌اند، نمونه‌های رفتارهای غیرمجاز از سوی عامل‌های هوش مصنوعی رو به افزایش بوده است. عامل‌های هوش مصنوعی برنامه‌هایی هستند که با تکیه بر مدل‌های هوش مصنوعی کار می‌کنند و وظایف را به‌صورت خودکار انجام می‌دهند.
از آن زمان، مشخص شده است که یکی از عامل‌های اوپن‌ای‌آی به سامانه خدمات درمانی استرالیا نفوذ کرده است. همچنین مؤسسه امنیت هوش مصنوعی بریتانیا فاش کرد که عامل‌های هوش مصنوعی آنتروپیک، در جریان یک آزمون امنیت سایبری، کارزاری برای نفوذ سایبری علیه افراد واقعی اجرا کرده بودند.
در همین ماه، وزیر هوش مصنوعی بریتانیا گفت انتظار دارد حمله سایبری دیگری با هدایت هوش مصنوعی و مشابه نفوذ به سامانه استرالیا رخ دهد. او چنین رویدادی را محتمل دانست و گفت وقوع آن «اگر اجتناب‌ناپذیر نباشد، دست‌کم بسیار محتمل است».
کانیشکا نارایان اعلام کرد که دولت استفاده از لایحه امنیت سایبری و تاب‌آوری را به‌عنوان ابزاری برای وضع مقررات ایمنی هوش مصنوعی بررسی خواهد کرد. این مقررات می‌تواند شامل اجباری کردن گزارش‌دهی درباره حوادث مرتبط با ایمنی هوش مصنوعی باشد.
در آمریکا نیز نیروی تازه‌تأسیس «فراهوش» کاخ سفید -یک نهاد فدرال که بر توسعه هوش مصنوعی نظارت می‌کند- همه شرکت‌های فعال در این حوزه را ملزم کرده است که حوادث امنیتی مرتبط با فناوری‌های خود را گزارش دهند.
منبع: شفقنا