به گزارش گروه رسانه‌ای شرق،
گسترش حوادث مرتبط با هوش مصنوعی یک پرسش حقوقی مهم ایجاد کرده است: اگر یک سامانه تصمیم اشتباه بگیرد یا محتوایی زیان‌بار تولید کند، چه کسی پاسخ‌گو خواهد بود؟ البته در زمان حمله به ایران، ارتش آمریکا در مواردی تصمیم گرفت مسئولیت حمله به مراکز غیرنظامی نظیر بیمارستان را به خاطر اشتباه هوش مصنوعی بداند؛ هرچند به‌طور رسمی به آن اعتراف نکرد، اما در محافل این‌گونه مطرح شد. حالا در مطلبی که اقتصادنیوز منتشر کرده، به مواردی در ابعاد بسیار کوچک‌تر اشاره کرده است.
مقاله‌ای که استنفورد منتشر کرده است، به پیامدهای ناخواسته و حوادث مرتبط با هوش مصنوعی اختصاص دارد. بر اساس شاخص هوش مصنوعی ۲۰۲۶، تعداد حوادث ثبت‌شده از ۲۳۳ مورد در سال ۲۰۲۴ به ۳۶۲ مورد در سال ۲۰۲۵ رسیده است؛ افزایشی حدود ۵۵درصدی. این عدد به معنای وقوع فقط ۳۶۲ حادثه هوش مصنوعی در سراسر جهان نیست، بلکه شمار موارد ثبت و مستندشده در این پایگاه را نشان می‌دهد.
حوادث مرتبط با هوش مصنوعی می‌توانند شکل‌های متفاوتی داشته باشند؛ از تولید اطلاعات نادرست و تبعیض در تصمیم‌های خودکار گرفته تا جعل هویت، تولید تصاویر فریبنده و سوءاستفاده مالی. برای مثال، ممکن است یک سامانه استخدام خودکار بر پایه داده‌های نامناسب، بعضی متقاضیان را به شکلی ناعادلانه ارزیابی کند. در چنین حالتی، خطای سامانه می‌تواند بر فرصت شغلی افراد
تأثیر بگذارد.
در نمونه‌ای دیگر، ابزار تولید محتوا ممکن است خبری نادرست اما باورپذیر ایجاد کند که پس از انتشار، به اعتبار یک شخص یا شرکت آسیب بزند. پاسخ به نوع خسارت، قراردادهای میان طرف‌ها و قوانین کشور مربوطه بستگی دارد. اگر شخصی با استفاده از دیپ‌فیک اقدام به کلاهبرداری کند، مسئولیت رفتار مجرمانه او موضوعی جدا از مسئولیت احتمالی سازنده ابزار است. اما در شرایطی که شرکتی از سامانه هوش مصنوعی برای تصمیم‌گیری استخدامی، ارائه خدمات درمانی یا ارزیابی مالی استفاده می‌کند، پرسش‌های پیچیده‌تری مطرح می‌شود.
اتحادیه اروپا در سال ۲۰۲۶ گام مهمی در زمینه شفافیت برداشته است. گسترش تصاویر و ویدئوهای جعلی، اتحادیه اروپا را به سمت اجرای مقررات سخت‌گیرانه‌تری درباره شفافیت محتوای تولیدشده با هوش مصنوعی سوق داده است. بر اساس ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا که الزامات آن از دوم آگوست ۲۰۲۶ اجرائی شد، شرکت‌های سازنده ابزارهای هوش مصنوعی موظف هستند امکان شناسایی ماشینی محتوای مصنوعی را فراهم کنند. در مقابل، استفاده‌کنندگان حرفه‌ای از این ابزارها نیز باید هنگام انتشار دیپ‌فیک، مصنوعی‌بودن تصویر یا صدا را به شکلی روشن به مخاطبان اطلاع دهند.
برای مثال، اگر یک شرکت تبلیغاتی ویدئویی بسازد که در آن چهره یا صدای مدیرعامل یک شرکت واقعی شبیه‌سازی شده و سخنانی به او نسبت داده شود که هرگز بیان نکرده است، منتشرکننده مشمول قانون باید مصنوعی‌بودن محتوا را آشکار کند (این الزام برای کاهش احتمال فریب مخاطبان طراحی شده است و به معنای ممنوعیت همه انواع محتوای تولیدشده با هوش مصنوعی نیست).
طبق توضیحات منتشرشده از سوی کمیسیون اروپا، نظارت بر اجرای این مقررات عمدتا بر عهده نهادهای مسئول کشورهای عضو است و جریمه نقض الزامات شفافیت می‌تواند تا ۱۵ میلیون یورو یا سه درصد گردش مالی سالانه جهانی شرکت برسد. با این حال، اجرای قانون به‌تنهایی مانع تمام سوءاستفاده‌ها نخواهد شد؛ زیرا تشخیص محتوای جعلی، شناسایی عامل انتشار و اثبات تخلف همچنان به ابزارهای فنی و فرایندهای نظارتی نیاز دارد.
این مقررات نشان می‌دهد مسئله دیپ‌فیک دیگر صرفا یک نگرانی فناورانه نیست، بلکه به موضوعی حقوقی و اقتصادی تبدیل شده که می‌تواند برای شرکت‌ها مسئولیت و جریمه‌های سنگین به همراه داشته باشد.