لزوم ارزیابی انطباق برای تجهیزات و سامانه‌های مبتنی بر هوش مصنوعی
سیدمحسن میرصدری – رئیس کمیسیون کسب‌وکارهای نوین و دانش‌بنیان اتاق بازرگانی ایران
مقدمه
با گسترش روزافزون فناوری هوش مصنوعی و نفوذ آن در لایه‌های گوناگون زندگی فردی، اجتماعی و صنعتی، توجه به الزامات ایمنی، امنیت، مسئولیت‌پذیری و انطباق این فناوری با چارچوب‌های قانونی و فنی اهمیت دوچندانی یافته است. سامانه‌های مبتنی بر هوش مصنوعی امروز دیگر صرفاً ابزارهای پردازشی یا کمکی نیستند؛ بلکه در بسیاری از موارد به‌طور مستقیم در فرآیند تصمیم‌گیری، تحلیل وضعیت، یا ارائه خدمات حیاتی نقش ایفا می‌کنند. همین ویژگی باعث شده است که خطا یا نقص در عملکرد این سامانه‌ها، پیامدهای سنگینی در حوزه‌های ایمنی، حقوقی و حتی اجتماعی به‌دنبال داشته باشد.
– پیچیدگی فنی و مخاطرات فناوری‌های مبتنی بر AI
سامانه‌های هوش مصنوعی، بر پایه داده‌های حجیم و متغیر، الگوریتم‌های پیچیده و فرآیندهای یادگیری مستمر عمل می‌کنند. همین امر باعث شده است ارزیابی کیفیت و عملکرد آن‌ها از مسیرهای سنتی ممکن نباشد و نیاز به آزمون‌های ترکیبی و روش‌مند، بر اساس استانداردهای بین‌المللی، بیش از پیش احساس شود. عملکرد این سامانه‌ها در شرایط واقعی، میزان دقت، نرخ خطا، قابلیت تاب‌آوری در برابر داده‌های نویزی، و همچنین توان آن‌ها در ارائه نتایج قابل توضیح، از جمله شاخص‌هایی است که باید مورد ارزیابی فنی دقیق قرار گیرد.
– جایگاه ارزیابی انطباق در سیاست‌گذاری جهانی
با توجه به این واقعیت‌ها، موضوع ارزیابی انطباق و صدور گواهی‌نامه برای محصولات و خدمات مبتنی بر هوش مصنوعی، در سطح جهانی نیز وارد مرحله قانون‌گذاری شده است. به‌عنوان نمونه، اتحادیه اروپا با تصویب نهایی قانون “AI Act” در سال ۲۰۲۴، نخستین چارچوب جامع نظارتی برای هوش مصنوعی را ارائه کرده است. بر اساس این قانون، محصولات و سامانه‌های هوش مصنوعی بر اساس سطح ریسک دسته‌بندی شده و در بسیاری از موارد، دریافت گواهی‌نامه فنی از نهادهای ارزیابی انطباق مستقل (Notified Bodies) برای عرضه در بازار اتحادیه اروپا الزامی شده است. به‌ویژه در مواردی نظیر خودروهای خودران، تجهیزات پزشکی، سامانه‌های تشخیص چهره، الگوریتم‌های تحلیل اعتباری یا سامانه‌های تصمیم‌یار در استخدام، عدم دریافت گواهی انطباق، به‌معنای منع قانونی ورود به بازار است.
– تأثیر گواهی‌نامه فنی بر رقابت‌پذیری و صادرات
اهمیت این موضوع برای کشورهای صادرکننده فناوری و محصولات دانش‌بنیان – از جمله ایران – از آن جهت دوچندان است که ورود به بازارهای بین‌المللی در آینده نزدیک، مشروط به ارائه مدارک فنی مبتنی بر استانداردهای جهانی و گواهی‌نامه‌های رسمی خواهد بود. در چنین شرایطی، فقدان زیرساخت‌های تخصصی برای ارزیابی، تست و گواهی‌نامه محصولات مبتنی بر هوش مصنوعی در کشور، می‌تواند به مانعی جدی در مسیر صادرات و توسعه بازار شرکت‌های دانش‌بنیان تبدیل شود.
– ضرورت ایجاد زیرساخت‌های تخصصی آزمون و گواهی‌سازی
تجربه کشورهای پیشرو در این زمینه نشان می‌دهد که ایجاد آزمایشگاه‌های تخصصی برای آزمون سامانه‌های هوش مصنوعی، طراحی سازوکارهای ممیزی عملکرد، ارزیابی امنیت سایبری، بررسی بی‌طرفی الگوریتم‌ها و قابلیت توضیح‌پذیری نتایج، از اجزای ضروری نظام گواهی‌سازی AI محسوب می‌شود. این فرآیندها نه‌تنها در ایجاد اعتماد عمومی و ارتقاء مسئولیت‌پذیری تولیدکنندگان مؤثر هستند، بلکه پیش‌شرط پذیرش در بازارهای معتبر جهانی به‌شمار می‌روند.
– وضعیت فعلی کشور و الزامات پیشرو
در حال حاضر، زیرساخت‌های موجود در کشور برای ارزیابی سامانه‌های هوش مصنوعی عمدتاً به جنبه‌های نرم‌افزاری یا آزمایش‌های موردی محدود است و استانداردسازی در این حوزه هنوز شکل نهادینه نیافته است. در همین راستا، ضروری است تدوین سند ملی ارزیابی انطباق محصولات مبتنی بر هوش مصنوعی در دستور کار قرار گیرد و با مشارکت نهادهایی مانند سازمان ملی استاندارد، معاونت علمی و فناوری ریاست‌جمهوری، وزارت ارتباطات و بخش خصوصی، چارچوبی جامع و روزآمد برای این حوزه طراحی شود.
همچنین ایجاد نهادهای تخصصی صدور گواهی‌نامه در بخش خصوصی با مجوز رسمی، تربیت ارزیابان و ممیزان آشنا با فناوری‌های یادگیری ماشین، الگوریتم‌های پیشرفته و مسائل حقوقی و اخلاقی هوش مصنوعی، و تعامل فعال با نهادهای بین‌المللی استانداردسازی از جمله الزامات زیرساختی در این مسیر است. راه‌اندازی چنین نظامی، نه‌تنها موجب ارتقاء سطح فناوری داخلی خواهد شد، بلکه جایگاه ایران را به‌عنوان مرجع فنی قابل اعتماد در منطقه نیز تثبیت می‌کند.
– کلام آخر
توسعه هوش مصنوعی بدون ایجاد نظام ارزیابی انطباق و گواهی‌سازی معتبر، ریسک‌پذیری این فناوری را بالا برده و مانعی جدی در مسیر اعتماد عمومی و پذیرش جهانی آن خواهد بود. تدوین نظام‌نامه ملی ارزیابی انطباق AI، حمایت از ایجاد آزمایشگاه‌های تخصصی، و طراحی الگوی صدور گواهی‌نامه فنی با اعتبار بین‌المللی، سه گام ضروری برای ورود کشور به عصر هوش مصنوعی مسئولانه، ایمن و صادرات‌محور هستند.
