به گزارش خبرگزاری خبرآنلاین،همین پرسش‌ها باعث شده‌اند «قانون‌گذاری هوش مصنوعی» از موضوعی تخصصی در محافل فناوری به یکی از مهم‌ترین مباحث حقوقی و سیاست‌گذاری جهان تبدیل شود. رشد سریع هوش مصنوعی، گسترش سامانه‌های مولد، تولید دیپ‌فیک، نگرانی درباره حریم خصوصی و احتمال سوگیری الگوریتمی، دولت‌ها را وادار کرده است برای استفاده مسئولانه‌تر از این فناوری چارچوب‌هایی مشخص کنند.
در سال‌های اخیر اتحادیه اروپا یکی از جامع‌ترین نظام‌های حقوقی را برای تنظیم هوش مصنوعی ایجاد کرده است. «قانون هوش مصنوعی اتحادیه اروپا» یا AI Act رویکردی مبتنی بر ریسک دارد؛ یعنی همه سامانه‌های هوش مصنوعی را به یک شکل محدود نمی‌کند، بلکه بر اساس نوع استفاده و میزان خطری که ممکن است برای افراد و جامعه ایجاد کنند، الزامات متفاوتی در نظر می‌گیرد.
اما قانون‌گذاری هوش مصنوعی دقیقاً چیست، چه کاربردی دارد و چرا دولت‌ها به دنبال وضع چنین قوانینی هستند؟
قانون‌گذاری هوش مصنوعی دقیقاً چیست؟
قانون‌گذاری هوش مصنوعی به مجموعه قوانین، مقررات، استانداردها و چارچوب‌هایی گفته می‌شود که نحوه طراحی، توسعه، عرضه و استفاده از سامانه‌های هوش مصنوعی را تنظیم می‌کنند.
این چارچوب‌ها می‌توانند موضوعاتی مانند حریم خصوصی، امنیت، تبعیض الگوریتمی، شفافیت، مسئولیت تولیدکنندگان، حقوق مصرف‌کنندگان و نحوه استفاده از داده‌ها را پوشش دهند.
البته نباید همه چارچوب‌های مرتبط با هوش مصنوعی را «قانون» دانست. برای مثال، چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استاندارد و فناوری آمریکا (NIST)، چارچوبی داوطلبانه برای کمک به سازمان‌ها در شناسایی و مدیریت ریسک‌های هوش مصنوعی است و به‌خودی‌خود قانون الزام‌آور محسوب نمی‌شود.
در نتیجه، قانون‌گذاری هوش مصنوعی بخشی از اکوسیستمی گسترده‌تر است که در آن قوانین الزام‌آور، استانداردهای فنی، دستورالعمل‌های اجرایی و چارچوب‌های مدیریت ریسک در کنار یکدیگر قرار می‌گیرند.
چرا قانون‌گذاری هوش مصنوعی ضروری شد؟
هوش مصنوعی، برخلاف بسیاری از نرم‌افزارهای سنتی، می‌تواند در تصمیم‌هایی دخالت کند که مستقیماً بر زندگی انسان‌ها اثر می‌گذارند.
تصور کنید سامانه‌ای در فرایند استخدام، درخواست وام، تشخیص پزشکی یا ارزیابی یک پرونده به تصمیم‌گیری کمک کند. اگر داده‌های آموزشی آن سوگیری داشته باشند، ممکن است خروجی سامانه نیز به‌طور نظام‌مند به زیان گروهی از افراد باشد.
از سوی دیگر، ابزارهای مولد هوش مصنوعی امکان تولید متن، تصویر، صدا و ویدیو را در مقیاسی گسترده فراهم کرده‌اند. این موضوع تشخیص محتوای واقعی از محتوای مصنوعی را دشوارتر کرده و دیپ‌فیک و انتشار اطلاعات گمراه‌کننده را به دغدغه‌هایی جدی تبدیل کرده است.
بنابراین، قانون‌گذاری قرار نیست صرفاً جلوی ساخت فناوری را بگیرد؛ هدف اصلی آن تعیین قواعدی برای استفاده ایمن‌تر، شفاف‌تر و مسئولانه‌تر از این فناوری است.
قانون هوش مصنوعی اتحادیه اروپا چگونه کار می‌کند؟
یکی از شناخته‌شده‌ترین نمونه‌های قانون‌گذاری جامع هوش مصنوعی، قانون AI اتحادیه اروپا است. این قانون از رویکردی «مبتنی بر ریسک» استفاده می‌کند: هرچه احتمال آسیب ناشی از یک کاربرد بیشتر باشد، الزامات قانونی آن نیز سخت‌گیرانه‌تر است.
۱. کاربردهای ممنوع یا دارای ریسک غیرقابل‌قبول
برخی کاربردهای هوش مصنوعی به دلیل خطر جدی برای حقوق بنیادین افراد ممنوع شده‌اند یا با محدودیت‌های بسیار سخت‌گیرانه روبه‌رو هستند. برای نمونه، قانون هوش مصنوعی اتحادیه اروپا برخی شیوه‌های دست‌کاری فریب‌کارانه، برخی انواع امتیازدهی اجتماعی و بعضی کاربردهای خاص سامانه‌های بیومتریک را در محدوده ممنوعیت قرار داده است.
بااین‌حال، نباید تصور کرد که هرگونه استفاده از شناسایی بیومتریک از راه دور در لحظه و در اماکن عمومی مطلقاً ممنوع است. قانون برای برخی کاربردهای انتظامی استثناها و شرایط مشخصی در نظر گرفته و استفاده از آن‌ها را به محدودیت‌های قانونی، ضرورت و تناسب و، در مواردی، دریافت مجوز قضایی یا اداری وابسته کرده است.
این تفاوت مهم است؛ زیرا در گزارش‌های عمومی گاهی از «ممنوعیت کامل تشخیص چهره» صحبت می‌شود، درحالی‌که جزئیات قانون پیچیده‌تر از این تعبیر ساده است.
۲. سامانه‌های پرخطر
دسته بعدی شامل سامانه‌هایی است که در حوزه‌هایی فعالیت می‌کنند که خطا در آن‌ها می‌تواند پیامدهای جدی برای سلامت، امنیت یا حقوق اساسی افراد داشته باشد.
از نمونه‌های مطرح‌شده در قانون می‌توان به برخی کاربردهای هوش مصنوعی در استخدام و مدیریت کارکنان، آموزش، دسترسی به خدمات ضروری، اجرای قانون و بعضی حوزه‌های قضایی و مهاجرتی اشاره کرد.
برای سامانه‌های پرخطر، الزاماتی مانند مدیریت ریسک، کیفیت داده، مستندسازی، ثبت سوابق، نظارت انسانی، رعایت الزامات دقت و امنیت و ارزیابی انطباق در نظر گرفته شده است.
نکته مهم این است که «هوش مصنوعی پزشکی» یا «هوش مصنوعی استخدامی» به‌طور خودکار و در همه شرایط در یک دسته قانونی قرار نمی‌گیرد؛ طبقه‌بندی به نوع کاربرد و شرایط مشخص هر سامانه بستگی دارد.
۳. الزامات شفافیت
گروهی دیگر از مقررات به شفافیت مربوط می‌شوند. برای نمونه، قانون هوش مصنوعی اتحادیه اروپا در برخی موارد، سامانه‌هایی را که مستقیماً با انسان تعامل دارند ملزم می‌کند به کاربر اطلاع دهند که با هوش مصنوعی در حال تعامل است.
همچنین برای برخی سامانه‌های تولیدکننده محتوای مصنوعی، الزاماتی درباره قابل‌شناسایی‌بودن محتوای تولیدشده یا دست‌کاری‌شده در نظر گرفته شده است. درباره دیپ‌فیک نیز در شرایط مشخص، استفاده‌کننده باید مصنوعی یا دست‌کاری‌شده‌بودن محتوا را اعلام کند.
این بخش از قانون اهمیت دارد، زیرا می‌تواند به روشن‌ترشدن مرز میان محتوای واقعی و مصنوعی برای کاربران کمک کند.
قانون با هوش مصنوعی مولد چه می‌کند؟
ظهور مدل‌های مولد هوش مصنوعی، مانند مدل‌هایی که متن، تصویر، صدا یا کد تولید می‌کنند، قانون‌گذاران را با مسائل تازه‌ای روبه‌رو کرده است.
این مدل‌ها ممکن است در محصولات و خدمات فراوانی به کار گرفته شوند. به همین دلیل، قانون هوش مصنوعی اتحادیه اروپا برای «مدل‌های هوش مصنوعی با کاربرد عمومی» یا GPAI نیز الزامات خاصی تعیین کرده است.
در چارچوب اتحادیه اروپا، ارائه‌دهندگان این مدل‌ها باید اقداماتی مانند تهیه مستندات فنی، تدوین سیاستی برای رعایت حق نشر و انتشار خلاصه‌ای از محتوای مورد استفاده برای آموزش مدل را انجام دهند. برای مدل‌هایی که ریسک سیستمی دارند، الزاماتی بیشتر، از جمله ارزیابی و کاهش ریسک، گزارش‌دهی حوادث و تمهیدات امنیت سایبری، در نظر گرفته شده است.
بنابراین این تصور که قانون فقط به «ربات‌های گفت‌وگومحور» یا ابزارهای تولید تصویر مربوط می‌شود، درست نیست؛ بخش مهمی از مقررات به خود مدل‌های زیربنایی مربوط است.
آیا قانون‌گذاری هوش مصنوعی یعنی انتشار همه داده‌های آموزشی؟
یکی از نکاتی که هنگام توضیح قوانین هوش مصنوعی باید با دقت بیان شود، موضوع داده‌های آموزشی است.
گاهی در توضیح‌های ساده‌شده گفته می‌شود شرکت‌های هوش مصنوعی موظف‌اند «همه کتاب‌ها و مقاله‌های آموزشی مدل» را منتشر کنند. این تعبیر دقیق نیست.
در چارچوب اتحادیه اروپا، ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی موظف‌اند سیاستی برای رعایت حق نشر داشته باشند و خلاصه‌ای از محتوای آموزشی مدل منتشر کنند. بنابراین، موضوع «خلاصه محتوای آموزشی» است، نه الزام عمومی به انتشار فهرست کامل تک‌تک داده‌های آموزشی.
این موضوع می‌تواند یکی از محورهای مهم مناقشه میان شرکت‌های فناوری، پدیدآورندگان آثار و قانون‌گذاران باشد؛ زیرا مدل‌های هوش مصنوعی برای آموزش به حجم عظیمی از داده نیاز دارند و تعیین مرز میان استفاده مجاز از آثار و نقض حقوق پدیدآورندگان همچنان پیچیده است.
قانون‌گذاری چگونه با تبعیض الگوریتمی مقابله می‌کند؟
یکی از مهم‌ترین دلایل قانون‌گذاری هوش مصنوعی، پیشگیری از تصمیم‌گیری تبعیض‌آمیز است.
هوش مصنوعی معمولاً از داده‌های گذشته یاد می‌گیرد. اگر این داده‌ها سوگیری داشته باشند، مدل نیز ممکن است همان الگو را بازتولید کند. برای مثال، اگر سابقه استخدام یک سازمان در گذشته به‌طور نامتوازن به سود گروهی خاص بوده باشد، سامانه استخدامی آموزش‌دیده با آن داده‌ها ممکن است همان الگو را تکرار کند؛ حتی اگر برنامه‌نویس مستقیماً چنین دستوری به آن نداده باشد.
به همین دلیل، مقررات مربوط به سامانه‌های پرخطر بر موضوعاتی مانند کیفیت داده، مدیریت ریسک، مستندسازی و نظارت انسانی تأکید می‌کنند. هدف این است که کنترل خطر فقط به بررسی خسارت پس از وقوع محدود نشود و بخشی از آن از مرحله طراحی و توسعه سامانه آغاز شود.
اگر هوش مصنوعی اشتباه کند، چه کسی مسئول است؟
این یکی از دشوارترین پرسش‌های حقوقی عصر هوش مصنوعی است. فرض کنید سامانه‌ای در یک فرایند حساس نتیجه‌ای نادرست ارائه کند. آیا مسئولیت بر عهده سازنده مدل است، شرکت ارائه‌دهنده نرم‌افزار، سازمان استفاده‌کننده یا انسانی که تصمیم نهایی را گرفته است؟
پاسخ به نوع سامانه، نحوه استفاده از آن، قوانین مربوط به مسئولیت مدنی و مقررات حوزه مربوط بستگی دارد.
بنابراین، نباید تصور کرد که «قانون هوش مصنوعی» برای همه حوادث یک پاسخ واحد دارد. در بسیاری از موارد، قوانین هوش مصنوعی در کنار مقررات موجود در حوزه‌هایی مانند حمایت از مصرف‌کننده، حفاظت از داده‌ها، ایمنی محصولات و مسئولیت مدنی عمل می‌کنند.
یکی از چالش‌های اصلی آینده، روشن‌کردن مسئولیت میان زنجیره‌ای از بازیگران است؛ زنجیره‌ای که ممکن است از سازنده مدل پایه آغاز شود و تا توسعه‌دهنده نرم‌افزار و سازمان استفاده‌کننده ادامه پیدا کند.
آیا قانون‌گذاری نوآوری را کند می‌کند؟
این نگرانی یکی از بحث‌های اصلی موافقان و مخالفان مقررات‌گذاری است. مخالفان مقررات سخت‌گیرانه معتقدند هزینه انطباق می‌تواند برای شرکت‌های کوچک و استارتاپ‌ها سنگین باشد و سرعت توسعه فناوری را کاهش دهد.
در مقابل، طرفداران قانون‌گذاری می‌گویند نبود قواعد روشن نیز ممکن است هزینه‌های سنگین‌تری ایجاد کند؛ از نقض حریم خصوصی و تبعیض گرفته تا کلاهبرداری، آسیب‌های امنیتی و کاهش اعتماد عمومی.
به همین دلیل، مسئله اصلی دیگر «قانون یا نوآوری» نیست؛ بلکه پیدا کردن نقطه تعادل میان این دو است.
چرا قانون‌گذاری هوش مصنوعی هنوز به پایان نرسیده است؟
یکی از دشوارترین چالش‌های قانون‌گذاران، سرعت تحول فناوری است. قانون‌گذاری معمولاً فرایندی زمان‌بر است، درحالی‌که مدل‌های هوش مصنوعی ممکن است ظرف چند ماه دستخوش تغییرات بنیادین شوند.
حتی در اتحادیه اروپا نیز اجرای کامل قانون هوش مصنوعی در یک روز اتفاق نیفتاده است و بخش‌های مختلف آن در زمان‌های متفاوت اجرا می‌شوند. بر اساس اطلاعات رسمی اتحادیه اروپا، بسیاری از مقررات AI Act از ۲ اوت ۲۰۲۶ وارد مرحله اجرا شده‌اند، درحالی‌که برخی الزامات مربوط به سامانه‌های پرخطر به زمان‌های بعد موکول شده‌اند. بر اساس زمان‌بندی اعلام‌شده در سال ۲۰۲۶، اجرای برخی از این الزامات به ۲ دسامبر ۲۰۲۷ و ۲ اوت ۲۰۲۸ موکول شده است.
این زمان‌بندی نشان می‌دهد که قانون‌گذاری هوش مصنوعی نیز، مانند خود فناوری، فرایندی در حال تحول است.
آینده قانون‌گذاری هوش مصنوعی به کدام سمت می‌رود؟
آینده قانون‌گذاری هوش مصنوعی احتمالاً نه در ممنوعیت گسترده فناوری، بلکه در ایجاد سازوکارهایی برای استفاده مسئولانه از آن شکل خواهد گرفت. قوانین آینده باید میان کاربردهای کم‌خطر و کاربردهایی که مستقیماً با جان، آزادی، امنیت یا حقوق افراد ارتباط دارند تفاوت بگذارند.
با گسترش مدل‌های مولد، مسائلی مانند محتوای مصنوعی، دیپ‌فیک، حق نشر، شفافیت مدل‌ها، امنیت سایبری و مسئولیت ارائه‌دهندگان نیز اهمیت بیشتری پیدا خواهند کرد.
در چنین شرایطی، قانون‌گذاری را می‌توان نوعی «قطب‌نما» برای حرکت در فضای پیچیده هوش مصنوعی دانست؛ قطب‌نمایی که قرار نیست مسیر نوآوری را متوقف کند، بلکه باید روشن کند این مسیر تا کجا می‌تواند پیش برود، بی‌آنکه حقوق و امنیت انسان‌ها قربانی سرعت فناوری شود.
در نهایت، موفقیت قوانین هوش مصنوعی فقط به شدت مجازات‌ها بستگی ندارد؛ کیفیت مقررات، امکان اجرای آن‌ها، هماهنگی میان کشورها و توانایی قانون‌گذاران برای سازگارشدن با فناوری‌های جدید نیز اهمیت دارند. هوش مصنوعی با سرعت زیادی تغییر می‌کند و قانون‌گذاری برای آنکه از این تغییر عقب نماند، باید به همان اندازه هوشمند، منعطف و آینده‌نگر باشد.