پیشی گرفتن بهره‌گیری از هوش مصنوعی از اعتماد؛ چالشی مدیریتی

آکسفورد، ۱۳ خرداد ۱۴۰۵ — بر اساس پژوهش جدیدی که توسط جیووانی وترونیو، پژوهشگر حقوق منتشر شده، ادغام سریع هوش مصنوعی در تصمیم‌گیری‌های شرکتی، شکاف‌های قابل‌توجهی را در استانداردهای حقوقی حاکم بر مسئولیت‌های مدیران شرکت‌ها آشکار کرده است.

همزمان با اینکه شرکت‌ها به‌طور فزاینده‌ای هوش مصنوعی را در فرآیندهای راهبردی و عملیاتی خود می‌گنجانند، چارچوب‌های حقوقی که برای تصمیم‌گیری‌های انسان‌محور طراحی شده‌اند، از سرعت تحولات عقب مانده‌اند. یک مطالعه اخیر در KPMG نشان می‌دهد که ۶۶ درصد کاربران به‌طور مرتب از ابزارهای هوش مصنوعی استفاده می‌کنند، اما تنها حدود نیمی از آن‌ها آن‌قدر به خروجی‌های هوش مصنوعی اعتماد دارند که از آن در تصمیمات عملیاتی استفاده کنند. در همین حال، تحقیقات PwC حاکی از آن است که نزدیک به نیمی از رهبران فناوری اکنون هوش مصنوعی را کاملاً در استراتژی‌های شرکتی خود ادغام کرده‌اند.

به گفته کارشناسان، عدم تطابق میان میزان بهره‌گیری و سطح اعتماد، پیامدهای مهمی برای حاکمیت شرکتی دارد.

وترونیو استدلال می‌کند: «میزان پذیرش [فناوری] از میزان اعتماد پیشی گرفته است. مهم‌تر اینکه، این سرعت از ابزارهای مفهومی که بر مسئولیت مدیران نظارت دارند نیز جلوتر رفته است.»

این چالش به‌ویژه در حوزه‌های قضایی مانند ایتالیا مشهود است؛ جایی که وظایف مدیران بر اساس استانداردهای حقوقی تعیین می‌شود که دهه‌ها پیش از ظهور الگوریتم‌های پیشرفته تدوین شده‌اند. ماده ۲۳۹۲ قانون مدنی ایتالیا که در سال ۱۹۴۲ نوشته شده، مدیران را ملزم می‌کند که «دقت» (Diligence) متناسب با نقش خود را اعمال کنند. با این حال، این قانون فرض را بر این می‌گذارد که تصمیمات تجاری توسط تصمیم‌گیرندگان انسانی قابل درک، ارزیابی و بازسازی هستند. سیستم‌های هوش مصنوعی مدرن این پیش‌فرض را به چالش می‌کشند.

مدل‌های یادگیری ماشین اغلب به‌عنوان «جعبه سیاه» عمل می‌کنند و خروجی‌هایی تولید می‌کنند که توضیح آن‌ها حتی برای توسعه‌دهندگانشان دشوار است. این امر باعث ایجاد بلاتکلیفی در مورد این موضوع شده است که وقتی مدیران تصمیمات مبتنی بر هوش مصنوعی را تأیید یا به آن‌ها تکیه می‌کنند، چه نوع نظارتی «کافی» محسوب می‌شود.

این مسئله تحت «قاعده قضاوت تجاری» (Business Judgment Rule) پیچیده‌تر می‌شود؛ دکترین حقوقی که به‌طور کلی مدیران را در برابر مسئولیت‌های حقوقی محافظت می‌کند، مشروط بر اینکه تصمیمات با «حسن نیت» و بر اساس اطلاعات کافی اتخاذ شده باشند. منتقدان استدلال می‌کنند که اگر تصمیمات کلیدی تحت تأثیر الگوریتم‌هایی باشند که فرآیندهای درونی آن‌ها کاملاً شفاف نیست، مدیران ممکن است در رعایت استاندارد «مطلع بودن» (Informed) با مشکل مواجه شوند.

در پاسخ، وترونیو و همکارش سوتوریوا چارچوب حاکمیتی جدیدی را با نام «مدل TRACE» پیشنهاد کرده‌اند. این مدل برای کمک به هیئت‌مدیره‌ها جهت مدیریت ریسک‌های مرتبط با هوش مصنوعی طراحی شده است، بدون آنکه مدیران را مجبور کند به متخصصان فنی تبدیل شوند.

این چارچوب حول پنج اصل بنا شده است:

۱. شفافیت (Transparency): اطمینان از اینکه هیئت‌مدیره‌ها اسناد واضحی دارند که توضیح می‌دهد سیستم‌های هوش مصنوعی چه کاری انجام می‌دهند، محدودیت‌های آن‌ها چیست و چگونه در عملیات شرکت جای می‌گیرند.

۲. ارزیابی ریسک (Risk Assessment): ارزیابی مداوم سوگیری‌های احتمالی، خرابی‌های سیستم و افت عملکرد در طول زمان.

۳. ردپای حسابرسی (Audit Trail): نگهداری سوابقی که به شرکت‌ها اجازه می‌دهد بازسازی کنند که تصمیمات به کمک هوش مصنوعی چگونه اتخاذ شده‌اند.

۴. شایستگی (Competence): اطمینان از اینکه هیئت‌مدیره‌ها به‌صورت جمعی تخصص لازم برای نظارت بر هوش مصنوعی را از طریق آموزش، کمیته‌های مشورتی یا مدیران متخصص در اختیار دارند.

۵. اخلاق (Ethics): ادغام حاکمیت هوش مصنوعی در مسئولیت‌های گسترده‌تر محیط‌زیستی، اجتماعی و حاکمیتی (ESG).

به گفته نویسندگان، تمرکز باید از سنجش اینکه آیا مدیران شخصاً الگوریتم‌های پیچیده را درک می‌کنند، به این سمت تغییر کند که آیا ساختارهای حاکمیتی مناسب برای نظارت بر آن‌ها در جای خود قرار دارند یا خیر.

اگرچه این چارچوب با در نظر گرفتن قوانین ایتالیا توسعه یافته است، اما نگرانی‌های در حال ظهور در حوزه‌های قضایی مختلف را پوشش می‌دهد. در ایالات متحده، دکترین «کارمارک» (Caremark) در ایالت دلاور، هیئت‌مدیره‌ها را ملزم می‌کند سیستم‌های نظارتی ایجاد کنند که قادر به شناسایی نقص‌های انطباق (Compliance) باشند. وظایف مشابهی تحت قانون شرکت‌های بریتانیا (۲۰۰۶) وجود دارد و حقوقدانان آلمانی نیز بحث درباره مفاهیم «دقت دیجیتال» برای مدیران شرکت‌ها را آغاز کرده‌اند.

این پژوهشگران معتقدند که حاکمیت هوش مصنوعی باید به‌عنوان امتداد وظایف نظارتی موجود تلقی شود، نه به‌عنوان یک رده کاملاً جدید از مسئولیت حقوقی.

با شتاب گرفتن بهره‌گیری از هوش مصنوعی، دادگاه‌های سراسر جهان ممکن است به‌زودی ملزم شوند تعیین کنند که چگونه وظایف سنتی مدیران در زمانی که الگوریتم‌ها نقش اصلی را در تصمیم‌گیری شرکتی ایفا می‌کنند، اعمال می‌شود.

وترونیو در پایان نتیجه‌گیری می‌کند: «استاندارد دقت مدیران شکسته نشده است، اما باید با توجه به فناوری‌هایی که اکنون ملزم به نظارت بر آن‌هاست، بازخوانی شود.»

کارشناسان حقوقی می‌گویند که احتمالاً اولین شکست بزرگ شرکتی مرتبط با هوش مصنوعی، اولین آزمون مهم برای این استانداردهای در حال تحول خواهد بود.

منبع: وبلاگ دانشکده حقوق دانشگاه آکسفورد