پس از مذاکرات سه روزه "ماراتون"، ریاست شورا و مذاکره کنندگان پارلمان اروپا به توافق موقتی در مورد پیشنهاد قوانین هماهنگ در مورد هوش مصنوعی (AI)، به اصطلاح قانون هوش مصنوعی دست یافتند. هدف این پیش‌نویس این است که اطمینان حاصل شود که سیستم‌های هوش مصنوعی که در بازار اروپا قرار می‌گیرند و در اتحادیه اروپا استفاده می‌شوند، ایمن هستند و به حقوق اساسی و ارزش‌های اتحادیه اروپا احترام می‌گذارند. این پیشنهاد مهم همچنین با هدف تحریک سرمایه گذاری و نوآوری در زمینه هوش مصنوعی در اروپا است.
این یک دستاورد تاریخی و یک نقطه عطف بزرگ به سوی آینده است! توافق امروز به طور موثر به یک چالش جهانی در یک محیط تکنولوژیک در حال تکامل سریع در زمینه ای کلیدی برای آینده جوامع و اقتصادهای ما می پردازد. و در این تلاش، ما موفق شدیم تعادل بسیار ظریفی را حفظ کنیم: تقویت نوآوری و جذب هوش مصنوعی در سراسر اروپا و در عین حال احترام کامل به حقوق اساسی شهروندانمان. کارمه آرتیگاس، وزیر امور خارجه اسپانیا برای دیجیتالی کردن و هوش مصنوعی
عمل هوش مصنوعی یک است کشتی دریادار ابتکار قانونی با پتانسیل توسعه و استفاده از هوش مصنوعی ایمن و قابل اعتماد در سراسر بازار واحد اتحادیه اروپا توسط بازیگران خصوصی و دولتی. ایده اصلی تنظیم هوش مصنوعی بر اساس ظرفیت دومی برای آسیب رساندن به جامعه است "مبتنی بر ریسک" رویکرد: هرچه ریسک بالاتر باشد، قوانین سخت گیرانه تر است. به عنوان اولین پیشنهاد قانونی در نوع خود در جهان، می تواند الف استاندارد جهانی برای مقررات AI در سایر حوزه های قضایی، درست همانطور که GDPR انجام داده است، بنابراین رویکرد اروپایی به مقررات فناوری در صحنه جهانی ترویج می شود.
عناصر اصلی توافق موقت
در مقایسه با پیشنهاد اولیه کمیسیون، عناصر اصلی جدید موافقتنامه موقت را می توان به شرح زیر خلاصه کرد:
قوانین در مدل های هوش مصنوعی همه منظوره با تاثیر بالا که می تواند باعث ایجاد خطر سیستمیک در آینده و همچنین در معرض خطر شود سیستم های هوش مصنوعی
یک سیستم تجدید نظر شده حکومت با برخی از قدرت های اجرایی در سطح اتحادیه اروپا
گسترش فهرست از ممنوعیت ها اما با امکان استفاده شناسایی بیومتریک از راه دور توسط مقامات مجری قانون در فضاهای عمومی، با رعایت پادمان
حفاظت بهتر از حقوق از طریق تعهد به کارگزاران سیستم های هوش مصنوعی پرخطر برای انجام یک ارزیابی تاثیر حقوق اساسی قبل از استفاده از یک سیستم هوش مصنوعی
به بیان دقیق تر، توافق موقت جنبه های زیر را در بر می گیرد:
تعاریف و دامنه
برای اطمینان از اینکه تعریف یک سیستم هوش مصنوعی معیارهای به اندازه کافی واضح برای تشخیص هوش مصنوعی از سیستم‌های نرم‌افزاری ساده‌تر فراهم می‌کند، توافق مصالحه تعریف را با رویکرد پیشنهادی OECD همسو می‌کند.
توافق موقت همچنین تصریح می‌کند که این مقررات در حوزه‌های خارج از محدوده قوانین اتحادیه اروپا اعمال نمی‌شود و در هر صورت نباید بر صلاحیت‌های کشورهای عضو تأثیر بگذارد. امنیت ملی یا هر نهادی که وظایفی در این زمینه به او سپرده شده است. علاوه بر این، قانون هوش مصنوعی در مورد سیستم هایی که منحصراً برای آنها استفاده می شود اعمال نخواهد شد نظامی or دفاع اهداف به طور مشابه، این توافقنامه مقرر می‌دارد که این مقررات در مورد سیستم‌های هوش مصنوعی که تنها با هدف استفاده می‌شوند اعمال نمی‌شود تحقیق و نوآوری، یا برای افرادی که از هوش مصنوعی به دلایل غیر حرفه ای استفاده می کنند.
تبلیغات
طبقه بندی سیستم های هوش مصنوعی به عنوان روش های هوش مصنوعی پرخطر و ممنوع
توافق مصالحه الف لایه افقی حفاظتی، از جمله طبقه‌بندی پرخطر، تا اطمینان حاصل شود که سیستم‌های هوش مصنوعی که احتمالاً باعث نقض جدی حقوق اساسی یا سایر خطرات مهم نمی‌شوند، دستگیر نمی‌شوند. سیستم های هوش مصنوعی فقط ارائه می شوند ریسک محدود بسیار سبک خواهد بود تعهدات شفافیت، به عنوان مثال افشای اینکه محتوا توسط هوش مصنوعی تولید شده است تا کاربران بتوانند تصمیمات آگاهانه ای در مورد استفاده بیشتر بگیرند.
طیف گسترده ای از ریسک بالا سیستم‌های هوش مصنوعی مجاز خواهند بود، اما مشروط به مجموعه‌ای از الزامات و تعهدات برای دسترسی به بازار اتحادیه اروپا هستند. این الزامات توسط قانونگذاران به گونه ای روشن و تنظیم شده است که بیشتر باشد از نظر فنی امکان پذیر است و بار کمتر برای ذینفعان برای مطابقت با آنها، به عنوان مثال در مورد کیفیت داده ها، یا در رابطه با اسناد فنی که باید توسط SME ها تهیه شود تا نشان دهد که سیستم های هوش مصنوعی پرخطر آنها با الزامات مطابقت دارد.
از آنجایی که سیستم‌های هوش مصنوعی از طریق زنجیره‌های ارزش پیچیده توسعه یافته و توزیع می‌شوند، توافقنامه سازش شامل تغییراتی است که تخصیص مسئولیت ها و نقش های بازیگران مختلف در این زنجیره ها، به ویژه ارائه دهندگان و کاربران سیستم های هوش مصنوعی. همچنین رابطه بین مسئولیت‌های تحت قانون هوش مصنوعی و مسئولیت‌هایی را که قبلاً تحت قوانین دیگر وجود دارد، مانند قوانین مربوط به حفاظت از داده‌های اتحادیه اروپا یا قوانین بخشی، روشن می‌کند.
برای برخی از کاربردهای هوش مصنوعی، ریسک در نظر گرفته می شود غیر قابل قبول و بنابراین، این سیستم ها از اتحادیه اروپا ممنوع خواهند شد. توافق موقت، به عنوان مثال، شناختی را ممنوع می کند دستکاری رفتاری، بی هدف تکه تکه کردن تصاویر صورت از اینترنت یا فیلم های دوربین مدار بسته، تشخیص احساسات در محیط کار و موسسات آموزشی، امتیازدهی اجتماعی, دسته بندی بیومتریک برای استنباط داده های حساس، مانند گرایش جنسی یا اعتقادات مذهبی، و برخی موارد پالیسی پیش بینی شده برای افراد
استثنائات اجرای قانون
با توجه به ویژگی های مقامات مجری قانون و نیاز به حفظ توانایی آنها برای استفاده از هوش مصنوعی در کارهای حیاتی خود، چندین تغییر در پیشنهاد کمیسیون مربوط به استفاده از سیستم های هوش مصنوعی برای اهداف اجرای قانون مورد توافق قرار گرفت. مشروط به مناسب پادمان، این تغییرات به منظور منعکس کننده نیاز به احترام به محرمانه بودن داده های عملیاتی حساس در رابطه با فعالیت های آنها است. به عنوان مثال، یک روش اضطراری معرفی شد که به سازمان‌های مجری قانون اجازه می‌داد تا ابزار هوش مصنوعی پرخطری را به کار گیرند که این قانون را رد نکرده است. ارزیابی انطباق رویه در صورت فوریت با این حال، مکانیسم خاصی نیز برای اطمینان از آن معرفی شده است حقوق بنیادی به اندازه کافی در برابر هرگونه سوء استفاده احتمالی از سیستم های هوش مصنوعی محافظت می شود.
علاوه بر این، در مورد استفاده از زمان واقعی شناسایی بیومتریک از راه دور سیستم‌های موجود در فضاهای در دسترس عموم، توافق موقت اهدافی را که چنین استفاده‌ای برای مقاصد اجرای قانون کاملاً ضروری است و بنابراین مقامات مجری قانون باید به طور استثنایی مجاز به استفاده از چنین سیستم‌هایی باشند را روشن می‌کند. توافق سازش پیش بینی می کند پادمان های اضافی و این استثنائات را به موارد قربانیان جرایم خاص، پیشگیری از تهدیدهای واقعی، فعلی یا قابل پیش بینی، مانند حملات تروریستی، و جستجو برای افراد مظنون به جدی ترین جنایات محدود می کند.
سیستم‌های هوش مصنوعی عمومی و مدل‌های پایه
مقررات جدیدی برای در نظر گرفتن شرایطی که سیستم‌های هوش مصنوعی می‌توانند برای اهداف مختلف استفاده شوند، اضافه شده‌اند.هوش مصنوعی هدف عمومی، و جایی که فناوری هوش مصنوعی همه منظوره متعاقباً در یک سیستم پرخطر دیگر ادغام می شود. توافق موقت همچنین به موارد خاص سیستم های هوش مصنوعی (GPAI) همه منظوره می پردازد.
قوانین خاصی نیز برای آن توافق شده است مدل های پایهسیستم‌های بزرگی که قادر به انجام طیف وسیعی از وظایف متمایز هستند، مانند تولید ویدئو، متن، تصاویر، مکالمه به زبان جانبی، محاسبات یا تولید کد کامپیوتری. توافق موقت مقرر می‌دارد که مدل‌های پایه باید با موارد خاصی مطابقت داشته باشند تعهدات شفافیت قبل از اینکه در بازار عرضه شوند. رژیم سخت گیرانه تری برای آن معرفی شد 'تاثیر بالا' مدل های پایه اینها مدل‌های بنیادی هستند که با حجم زیادی از داده‌ها و با پیچیدگی، قابلیت‌ها و عملکرد پیشرفته بسیار بالاتر از حد متوسط آموزش داده شده‌اند، که می‌توانند ریسک‌های سیستمی را در طول زنجیره ارزش منتشر کنند.
معماری جدید حکومتی
پیروی از قوانین جدید در مورد مدل های GPAI و نیاز آشکار به اجرای آنها در سطح اتحادیه اروپا، یک دفتر هوش مصنوعی در این کمیسیون وظیفه نظارت بر این مدل های پیشرفته هوش مصنوعی، کمک به تقویت استانداردها و شیوه های آزمایش، و اجرای قوانین مشترک در همه کشورهای عضو تشکیل شده است. آ پانل علمی متشکل از کارشناسان مستقل با کمک به توسعه روش‌های ارزیابی قابلیت‌های مدل‌های فونداسیون، مشاوره در مورد تعیین و پیدایش مدل‌های فونداسیون با ضربه بالا، و نظارت بر خطرات احتمالی ایمنی مواد مرتبط با مدل‌های فونداسیون، به دفتر هوش مصنوعی در مورد مدل‌های GPAI مشاوره خواهد داد.
La هیئت هوش مصنوعی، که متشکل از نمایندگان کشورهای عضو است، به عنوان یک پلت فرم هماهنگی و یک نهاد مشورتی برای کمیسیون باقی خواهد ماند و نقش مهمی به کشورهای عضو در اجرای مقررات، از جمله طراحی کدهای عملی برای مدل‌های بنیادی خواهد داد. در نهایت، یک انجمن مشاوره برای ذینفعان، مانند نمایندگان صنعت، SMEها، استارت آپ ها، جامعه مدنی و دانشگاه ها، برای ارائه تخصص فنی به هیئت هوش مصنوعی راه اندازی خواهد شد.
مجازات
جریمه های نقض قانون هوش مصنوعی به عنوان درصدی از گردش مالی جهانی سالانه شرکت متخلف در سال مالی قبل یا مبلغ از پیش تعیین شده، هر کدام که بیشتر باشد، تعیین شده است. این مبلغ 35 میلیون یورو یا 7 درصد برای نقض برنامه های ممنوعه هوش مصنوعی، 15 میلیون یورو یا 3 درصد برای نقض تعهدات قانون هوش مصنوعی و 7,5 میلیون یورو یا 1,5 درصد برای ارائه اطلاعات نادرست خواهد بود. با این حال، توافق موقت پیش بینی می کند کلاه های متناسب تر در مورد جریمه های اداری برای SME ها و استارت آپ ها در صورت تخلف از مفاد قانون AI.
توافق سازش همچنین روشن می کند که یک شخص حقیقی یا حقوقی می تواند به ذیربط شکایت کند مرجع نظارت بر بازار در مورد عدم انطباق با قانون هوش مصنوعی و ممکن است انتظار داشته باشد که چنین شکایتی مطابق با رویه های اختصاصی آن مرجع رسیدگی شود.
شفافیت و حمایت از حقوق اساسی
موافقتنامه موقت الف ارزیابی تاثیر حقوق اساسی قبل از اینکه یک سیستم هوش مصنوعی پرخطر توسط توسعه دهندگان آن به بازار عرضه شود. توافق موقت نیز افزایش می دهد شفافیت در مورد استفاده از سیستم های هوش مصنوعی پرخطر. قابل ذکر است، برخی از مفاد پیشنهاد کمیسیون اصلاح شده است تا نشان دهد که برخی از کاربران سیستم هوش مصنوعی پرخطر که نهادهای عمومی هستند نیز موظف به ثبت نام در پایگاه داده اتحادیه اروپا برای سیستم های هوش مصنوعی پرخطر علاوه بر این، مقررات جدید اضافه شده بر تعهدی برای استفاده کنندگان از یک تاکید می کند سیستم تشخیص احساسات اطلاع رسانی به اشخاص حقیقی زمانی که در معرض چنین سیستمی قرار می گیرند.
اقدامات در حمایت از نوآوری
با توجه به ایجاد یک چارچوب قانونی که نوآوری دوستدارتر باشد و به منظور ترویج یادگیری نظارتی مبتنی بر شواهد، مقررات مربوط به اقدامات در حمایت از نوآوری در مقایسه با پیشنهاد کمیسیون به طور قابل ملاحظه ای اصلاح شده است.
قابل ذکر است، مشخص شده است که هوش مصنوعی جعبه های شنی نظارتی، که قرار است یک محیط کنترل شده برای توسعه، آزمایش و اعتبار سنجی سیستم های هوش مصنوعی خلاقانه ایجاد کند، همچنین باید امکان آزمایش سیستم های هوش مصنوعی خلاقانه را در شرایط دنیای واقعی فراهم کند. علاوه بر این، مقررات جدیدی اضافه شده است که اجازه می دهد تست سیستم های هوش مصنوعی در شرایط دنیای واقعی، تحت شرایط و پادمان های خاص. برای کاهش بار اداری برای شرکت‌های کوچکتر، موافقتنامه موقت شامل فهرستی از اقداماتی است که برای حمایت از این اپراتورها انجام می‌شود و برخی انحرافات محدود و مشخص شده را ارائه می‌کند.
ورود به زور
توافق موقت مقرر می کند که قانون هوش مصنوعی باید اعمال شود دو سال پس از لازم الاجرا شدن آن، به استثنای برخی از مقررات خاص.
مراحل بعدی
پس از توافق موقت امروز، کار در سطح فنی در هفته های آینده برای نهایی کردن جزئیات مقررات جدید ادامه خواهد یافت. پس از پایان یافتن این کار، ریاست، متن سازش را برای تایید به نمایندگان کشورهای عضو (Coreper) ارائه خواهد کرد.
کل متن باید توسط هر دو نهاد تأیید شود و قبل از تصویب رسمی توسط قانونگذاران، مورد بازبینی حقوقی-زبانی قرار گیرد.
اطلاعات پسزمینه
پیشنهاد کمیسیون که در آوریل 2021 ارائه شد، یک عنصر کلیدی از سیاست اتحادیه اروپا برای تقویت توسعه و جذب هوش مصنوعی ایمن و قانونی در بازار واحد است که به حقوق اساسی احترام می گذارد.
این پیشنهاد از یک رویکرد مبتنی بر ریسک پیروی می کند و یک چارچوب قانونی یکسان و افقی را برای هوش مصنوعی تعیین می کند که هدف آن تضمین اطمینان قانونی است. هدف این پیش‌نویس مقررات ترویج سرمایه‌گذاری و نوآوری در هوش مصنوعی، تقویت حاکمیت و اجرای مؤثر قوانین موجود در مورد حقوق اساسی و ایمنی، و تسهیل توسعه بازار واحد برای کاربردهای هوش مصنوعی است. این طرح در کنار سایر ابتکارات، از جمله طرح هماهنگ شده در زمینه هوش مصنوعی است که هدف آن تسریع سرمایه گذاری در هوش مصنوعی در اروپا است. در 6 دسامبر 2022، شورا به توافقی برای یک رویکرد کلی (حکم مذاکره) در مورد این پرونده دست یافت و در اواسط ژوئن 2023 وارد گفتگوهای بین نهادی با پارلمان اروپا («سه گانه») شد.
EU Reporter مقالاتی را از منابع مختلف خارجی منتشر می کند که طیف وسیعی از دیدگاه ها را بیان می کند. مواضع اتخاذ شده در این مقالات لزوماً موضع EU Reporter نیست.
