هوش مصنوعی یک فناوری نوظهور و تحولآفرین تلقی میشود و از این منظر تأثیراتی که بر زندگی بشر خواهد گذاشت بسیار گسترده است. مانند هر فناوری دیگری، در صورت استفاده درست از ظرفیتهای هوش مصنوعی، این فناوری میتواند در خدمت رفاه و امنیت انسانها قرار بگیرد؛ اما درصورتیکه از این فناوری به شکل غیراخلاقی و نامتعارف استفاده شود و یا برای مواجهه با خطرات و آسیبهای آن راهکارهای قانونی مناسبی پیشبینی نشود، این فناوری میتواند آسیبهای جدی به افراد جامعه وارد کند. از این منظر، تعیین و تدوین چهارچوبهای مسئولیت و تنظیمگری برای محصولات و خدمات هوش مصنوعی از اهمیت زیادی برخوردار است. این چهارچوبها در کشورهای مختلف عمدتاً باهدف اطمینان از پایبندی محصولات و خدمات مبتنی بر هوش مصنوعی به عملکرد منصفانه، حفاظت از حریم خصوصی، کاهش خطرات هوش مصنوعی، ارتقای مسئولیتپذیری و برقراری تعادل بین ذینفعان این فناوری تدوین شده است. برای ایجاد تعادل مناسب بین حقوق و مسئولیت کاربران و توسعهدهندگان هوش مصنوعی در ایران، ضرورت دارد که چهارچوبهای مسئولیت و تنظیمگری با دقت زیادی تدوین شوند تا ضمن پرداختن به آسیبهای احتمالی و نگرانیهای اخلاقی، نوآوری در زمینههای کاربردی هوش مصنوعی را تقویت کنند. در این مقاله به تبیین اهمیت و ضرورت تعیین و تدوین چهارچوبهای مسئولیت و تنظیمگری برای محصولات و خدمات هوش مصنوعی پرداخته شده است.
واژگان کلیدی: هوش مصنوعی، مسئولیت، تنظیمگری
فناوری هوش مصنوعی قابلیت آن را دارد که رایانهها و ماشینها را قادر سازد تا هوش انسانی و قابلیتهای حل مسئله را شبیهسازی کنند. هوش مصنوعی در حال تبدیلشدن به بخشی از زندگی روزمره انسانها است. چتباتها، دستیارهای صوتی، خانههای هوشمند، نرمافزارهای تولید تصویر و ویدئو مبتنی بر هوش مصنوعی، سیستمهای یادگیری شخصی، سیستمهای جلوگیری از کلاهبرداری و دستیارهای پزشکی تنها بخشی از محصولات و خدماتی هستند که هوش مصنوعی تاکنون به جامعه بشری عرضه کرده است. پیشبینیها حاکی از گسترش بسیار زیاد هوش مصنوعی در تمامی جوانب زندگی است. خودروهای خودران، رباتهای جراح و رباتهای انساننما از دیگر محصولاتی هستند که تحولات زیادی در زندگی روزمره انسان خواهند داشت. در کنار مزایای بسیار زیادی که هوش مصنوعی برای زندگی بشر به ارمغان میآورد، توسعه کنترل نشده هوش مصنوعی میتواند منجر به زیانهای جبرانناپذیری شود. ازاینرو وجود مکانیسمهای حاکمیتی مؤثر برای مدیریت استفاده از هوش مصنوعی و کاهش خطرات احتمالی آن اهمیت بسزایی دارد. سیستمهای هوش مصنوعی، بهویژه آنهایی که از یادگیری ماشین استفاده میکنند، این پتانسیل را دارند که تأثیر عمیقی بر جامعه بگذارند. آنها میتوانند تصمیمات و اقداماتی را بدون دخالت انسان انجام بدهند که بر افراد و جامعه تأثیر میگذارد و همین موضوع نگرانیهای اخلاقی را افزایش میدهد. این موضوع که خطر هوش مصنوعی تا چه حدی جدی است، همچنان محل اختلاف صاحبنظران این حوزه است.
موجودات با هوش مصنوعی قادر به انجام وظایف پیچیدهای هستند و بدون شک بخش زیادی از کارهایی را که به طور سنتی توسط انسانها انجام میشود را بهخوبی انجام خواهند داد. اما موجودات باهوش مصنوعی امروزه فراتر از یک ماشین هستند. بهعنوانمثال، ربات سوفیا که ساخت یک شرکت هنگکنگی است، در اکتبر ۲۰۱۷ تابعیت عربستان سعودی را کسب کرد و نخستین رباتی بود که تابعیت کشوری را کسب نمود. همچنین، سوفیا به نام اولین قهرمان نوآوری برنامه توسعه سازمان ملل معرفی شد و اولین غیرانسانی است که عنوانی از سوی سازمان ملل به او داده شده است. پیشرفتهای اخیر این قبیل رباتها و دیگر پیشرفتهای سیستمهای هوش مصنوعی این موضوع را مطرح میسازد که در آینده شاهد موارد بیشتری از این خبرها باشیم. اما پرسش مهمی که مطرح میشود آن است که وضعیت سیستمهای هوش مصنوعی از نظر قانون چیست؟ آیا آنها جزء دارایی افراد هستند و یا مثل سوفیا میتوانند حتی در حد یک انسان هویت و تابعیت پیدا کنند؟ پاسخ به این پرسشها بسیار دشوار است، چرا که به دلیل پیچیدگی شبکههای هوش مصنوعی تحلیل رفتار آنها بسیار پیچیده بوده و اغلب به شکل یک «جعبه سیاه» در نظر گرفته میشود. یکی دیگر از سؤالاتی که در مورد سیستمها و خدمات هوش مصنوعی مطرح میشود این است که وقتی هوش مصنوعی به کسی آسیب میرساند چه کسی مسئول است؟ در پاسخ به این سؤال باید گفت که قانون مدنی ایران و قانون مجازات اسلامی که برای تعیین مسئولیتها و پرداخت خسارات استفاده میشود، برای تنظیمگری سیستمهای مبتنی بر هوش مصنوعی آماده نیستند و نیازمند اصلاح هستند. در واقع این قوانین برای زمانی طراحی شدهاند که انسانها عامل یا منشأ ایجاد صدمات باشند. این در حالی است که با ظهور هوش مصنوعی، خطاها و حوادث ناگوار ممکن است بدون دخالت مستقیم انسان رخ دهد و ضرورت دارد که قوانین مسئولیت موجود مورد بازنگری قرار گیرد و مواد قانونی جدیدی بر اساس نیازهای هوش مصنوعی به آنها اضافه شود. برای درک اهمیت تدوین چهارچوب مسئولیت و تنظیمگری در حوزه هوش مصنوعی، برخی از حوادث ناشی از عملکرد نامناسب سیستمهای هوش مصنوعی در جدول (1) آورده شده است.
جدول (1): برخی از حوادث ناشی از سیستمها و خدمات هوش مصنوعی
| زمان حادثه | شرح حادثه | دلیل فنی حادثه | پیامدهای حادثه |
| ژوئن 2016 | در 30 ژوئن 2016، راننده یک خودروی الکتریکی تسلا مدل S که تحت ناوبری خودران قرار داشت در اثر تصادف کشته شد[1]. | · اداره ملی ایمنی ترافیک بزرگراهها اعلام کرد که تصادف زمانی رخ داد که یک تریلر جلوی خودروی تسلا به چپ پیچید و خودرو نتوانست ترمز کند.
· تسلا اعلام کرد که نه ناوبری خودکار و نه راننده متوجه سمت سفید تریلر در مقابل آسمان روشن نشدند، بنابراین ترمز اعمال نشد. |
· این حادثه ضربهای به شرکت تسلا بود درست زمانی که در تلاش بود که خط تولید محصولات خود را از خودروهای برقی گرانقیمت به مدلهای اقتصادیتر گسترش دهد. |
| جولای 2016 | آسیبدیدن کودک ۱۶ماهه در یک مرکز خرید در کالیفرنیا در اثر برخورد با یک ربات نگهبان[2] | · ربات امنیتی مرکز خرید استنفورد 5 فوت قد و 300 پوند وزن داشت و ساخت شرکت Knightscope بود.
· حسگرهای این ربات به تعداد کافی در نظر گرفته نشده بودند و نتوانست کودک خردسال را بهعنوان انسان تشخیص دهد. |
· ربات به سر پسربچه برخورد کرد و او با صورت روی زمین افتاد، ولی ربات متوقف نشد و به حرکت روبهجلو ادامه داد. خوشبختانه کودک دچار شکستگی استخوان نشد.
· این حادثه نشان داد که سوگیری الگوریتمی میتواند تا چه حد خطرناک باشد. تبعیض علیه کودکان یکی از مصادیق سوگیری الگوریتمی سیستمهای هوش مصنوعی است. · برای حل این مسئله، پیادهسازی سیستم ضد برخورد بر روی رباتهای امنیتی ضرورت دارد. این سیستم به این صورت عمل میکند که اگر فردی یا شیئی به ربات نزدیک شود، بهواسطه حسگرهای اولتراسونیک ربات بهعنوان یک خطر شناسایی میشود و ربات از آن خطر فاصله میگیرد طور یکه برخوردی صورت نپذیرد. · آموزش سیستم هوش مصنوعی ربات با استفاده از داده افراد خردسال ضرورت دارد. بهعبارتدیگر، در دادههای آموزشی ربات نمونههای زیادی باید مربوط به افراد خردسال و کودکان گنجانده شود. |
| 2017 | سیستم استخدام خودکار آمازون علیه زنان تبعیض قائل شد[3]. | · این سیستم مبتنی بر هوش مصنوعی یاد گرفت که چگونه با مشاهده رزومههای نامزدهای قبلی، قضاوت کند که آیا فردی برای یک نقش مناسب است یا خیر.
· ازآنجاییکه زنان قبلاً در نقشهای فنی کمتر حضور داشتند، سیستم هوش مصنوعی فکر میکرد که مردان بهتر از زنان هستند. |
· آمازون در سال 2017 سیستم استخدام خودکار خود را کنار گذاشت.
· سوگیری در سیستمهای هوش مصنوعی ناشی از نقص دادههایی که با آن آموزش داده میشوند. در نتیجه، یکی از تنظیمگریهای مهم در سیستمهای هوش مصنوعی موضوع تدوین استاندارهای جمعآوری و طبقهبندی داده آموزشی در سیستمهای یادگیری ماشین و هوش مصنوعی و مکانیزمهای ارزیابی و صحتسنجی دادهها باید باشد، طور یکه بعد از آموزش سیستم سوگیری نداشته باشد. تدوین استاندارد ارزیابی و کمیسازی میزان سوگیری الگوریتمهای هوش مصنوعی نیز از دیگر مواردیست که باید صورت پذیرد. |
| نوامبر 2018 | · یک بیمار قلبی به نام استفان پتیات[4] پس از اولین عمل رباتیک قلب در بریتانیا جان باخت[5].
· استفان پتیات در فوریه 2015 تحت عمل قلب قرار گرفته بود و حدود سه سال بعد در اثر عوارض عمل دچار مرگ زودهنگام شد.
|
· به دلیل کور شدن دوربین ربات در اثر خونریزی، ناهماهنگی بخیهها اتفاق افتاد و عمل پیچیدهتر و طولانیتر شد.
· تحقیقات نشان میداد که اگر از جراحی قلب باز معمولی برای او استفاده میشد، آقای پتیات تنها 1 تا 2 درصد احتمال مرگ داشت. · پزشکی قانونی بریتانیا اعلام کرد که آقای پتیات به دلیل عوارض عمل جراحی برای درمان بیماری دریچه میترال و تا حدی به این دلیل که این عمل با کمک رباتیک انجام شد، درگذشت. |
· پس از مرگ آقای پتیات، برنامه قلب رباتیک بلافاصله متوقف شد و تغییرات قابلتوجهی دررابطهبا الزامات فرایند و آموزش، مربوط به معرفی روشهای جدید ایجاد شد.
· سوکوماران نیر که جراح آقای پتیات بود از بیمارستان اخراج شد. · در بازجویی پلیس هیچ اتهام جنایی علیه پزشک جراح مطرح نشد. · آقای نیر قبل از جراحی آقای پتیات هیچ آموزش حضوری در مورداستفاده از ربات نداشت، اما رویههای مشابهی را در ایالات متحده و هلند مشاهده کرده بود و بهتنهایی روی یک شبیهساز تمرین کرده بود. این جراح که اکنون در اسکاتلند کار میکند، اعلام کرده است که دیگر از روشهای رباتیک استفاده نمیکند. · ضرورت دارد که عملهای رباتیک تحت نظارت ناظران و اطمینان از شفافیت فرایند صورتپذیرند. · ضرورت دارد که آموزش پزشکان و ارزیابی لازم برای صدور گواهینامه کار با ربات جراح توسط شرکتهای سازنده ربات انجام پذیرد، چرا که هر ربات جراح دورههای آموزش اختصاصی خود را خواهد داشت. · ضرورت دارد که اطلاعات مربوط به جزئیات انجام جراحی و همه سیگنالهای ربات و بیمار ثبت شود و برای حداقل 10 سال نگهداری شود. مثلا برای مورد پتیات، جراحی در سال 2015 انجام شد و سه سال بعد در سال 2018 عوارض جراحی ظاهر شد و منجر به فوت وی شد. |
| مارس 2018 | در 18 مارس 2018 یک خودروی خودران در ایالت آریزونا به یک عابر پیاده (به نام الین هرزبرگ) برخورد کرد.
خودرو خودران، وسیله نقلیه آزمایشی شرکت Uber بود که در حالت رانندگی خودکار قرار داشت، ولی یک راننده پشتیبان هم روی صندلی راننده نشسته بود. [6] |
· عابر برای اولینبار 6 ثانیه (115 متر) قبل از برخورد شناسایی شد.
· در طول 4.7 ثانیه سیستم ناوبری خودران استنباط نکرد که ترمز اضطراری مورد نیاز است. · راننده پشتیبان برای جلوگیری از برخورد نتوانست بهموقع مداخله کند. · هیئت ملی ایمنی حملونقل (NTSB) اعلام کرد که خانم هرزبرگ لباس تیره پوشیده بود و به سمت وسیله نقلیه نگاه نمیکرد. به همین دلیل عابر نیز تا حدودی در این حادثه مقصر شناخته شد. |
· هیئت ملی ایمنی حملونقل (NTSB) مجموعهای از توصیهها را صادر کرد و بهشدت از اوبر انتقاد کرد.
· اوبر آزمایش وسایل نقلیه خودران را در آمریکا و کانادا به حالت تعلیق درآورد. · در مارس 2019، دادستان آریزونا حکم داد که اوبر از نظر کیفری مسئول برخورد نیست. · راننده پشتیبان وسیله نقلیه به قتل شبهعمد[7] متهم شد. پلیس به این نتیجه رسید که تصادف «کاملاً قابلاجتناب بود» و راننده پشتیبان را به دلیل «بیتوجهی به عملکرد شغلی تعیین شده برای مداخله در موقعیتهای خطرناک» مقصر دانست. · در دسامبر 2020، Uber گروه فناوریهای پیشرفته خود را که در حال تحقیق در مورد سیستمهای رانندگی خودکار بود، به Aurora Innovation فروخت. · حادثه آریزونا اهمیت و ضرورت نصب سیستمهای جلوگیری از برخورد [8] در وسایل نقلیه خودران را بهوضوح نشان داد. |
| دسامبر 2019 | در 12 دسامبر 2019، یک خودروی تسلا مدل S در حالی که در حالت خودران قرار داشت از یک چراغ قرمز در یک خیابان محلی در کالیفرنیا با سرعت 119 کیلومتر در ساعت عبور کرد و با یک خودروی هوندا برخورد کرد و هر دو سرنشین خودرو در محل حادثه جان باختند.[9] | · عملکرد نادرست و ناقص نرمافزار خودروهای تسلا (در حالت رانندگی خودران) علت اصلی این حادثه بود.
· سهلانگاری فاحش راننده در کنترل خودرو از دیگر علل این اتفاق بود. · وکیل خانواده قربانیان ادعا کرد که اگر استفاده از سیستم رانندگی خودران به بزرگراههای کنترلشده محدود میشد، احتمالاً این حادثه رخ نمیداد. |
· خانوادههای افراد کشته شده به طور جداگانه علیه راننده خودرو (عزیز ریاد) و شرکت تسلا دعاوی مدنی تنظیم کردند.
· این یک مورد از تصادفات مرگبار بود که توسط اداره ملی ایمنی ترافیک بزرگراه بررسی شد که منجر به فراخوان بیش از 2 میلیون خودروی تسلا شد (برای بهروزرسانی نرمافزار معیوب فعلی باهدف اطمینان بهبود عملکرد سیستم ناوبری خودران). این فراخوان پس از دو سال تحقیقات دولت فدرال در مورد تصادفات خودروهای تسلا در هنگام استفاده از سیستم رانندگی نیمهخودکار است. · در آوریل 2023 شرکت تسلا در دادگاه بر سر عملکرد نادرست اتوپایلوت پیروز شد. · راننده تسلا ۲۳ هزار دلار غرامت برای تصادف لسآنجلس ۲۰۱۹ که منجر به کشتهشدن ۲ نفر شد، پرداخت میکند. [10] · برای جلوگیری از اینگونه حوادث، قانونگذار باید ابتدا استفاده از سیستم رانندگی خودران را به بزرگراهها محدود سازد تا زمانی که عیوب احتمالی سیستم ناوبری خودران کاملاً برطرف شود. |
| آگوست 2021 | بازداشت و زندانی کردن اشتباه یک مرد سیاهپوست ۶۵ساله به اتهام قتل مرد جوانی با تفنگ بر اساس شواهد اندک و تنها بر اساس نتیجه یک محصول هوش مصنوعی[11] | · بازداشت مایکل ویلیامز بر اساس فناوری شرکت تشخیص گلوله ShotSpotter صورت گرفت. شواهد ShotSpotter به طور فزایندهای در پروندههای قضایی در سراسر آمریکا پذیرفته شده است و اکنون مجموعاً به 200 مورد رسیده است. ShotSpotter ادعا میکند که “پیشرو در راه حل های فناوری پلیسی دقیق” است و با استفاده از “حسگرها، الگوریتم ها و هوش مصنوعی” کار میکند. این فناوری در حدود 110 شهر آمریکا و در محلههایی که بیشترین خطر خشونت با اسلحه را دارند نصب شده است. | · مایکل ویلیامز نزدیک به یک سال پشت میلههای زندان بود تا اینکه قاضی پرونده در فوریه 2022 به درخواست دادستانها که گفتند شواهد کافی در اختیار ندارند، پرونده علیه او را رد کرد.
· شرکت ShotSpotter از نحوه عملکرد سیستم بسته خود بهعنوان یک راز تجاری محافظت میکند، جعبه سیاهی که تا حد زیادی برای مردم، هیئتمنصفه و هیئتهای نظارت پلیس قابلدرک نیست. · حامیان حریم خصوصی و حقوق مدنی میگویند سیستم ShotSpotter و سایر فناوریهای مبتنی بر الگوریتم که برای تنظیم همه چیز از مجازاتهای زندان تا قوانین مشروط استفاده میشود، شفافیت و نظارت ندارند و نشان میدهد که چرا سیستم عدالت کیفری نباید برخی از سنگینترین تصمیمات جامعه را به کدهای کامپیوتری واگذار کند. از طرف دیگر، رؤسای پلیس ShotSpotter را تغییردهنده بازی مینامند. |
| 2022 | در سال 2022، در ایالات متحده آمریکا بیش از 36000 مورد کلاهبرداری تلفنی توسط 5000 نفر از مالباختگان گزارش شد که در آنها بیش از 11 میلیون دلار از این افراد به سرقت رفت. تنها در یک مورد، یک زوج پس از اینکه صدای تولید شده توسط هوش مصنوعی را شنیدند، باورشان شد با پسرشان صحبت کردهاند و 15000 دلار بیت کوین برای یک کلاهبردار ارسال کردند[12]. |
· واشنگتنپست گزارش داد، مدلهای هوش مصنوعی که برای شبیهسازی دقیق صدای افراد طراحی شدهاند، تقلید صدای دوستان یا اعضای خانواده و در نتیجه کلاهبرداری از افراد را آسان میکنند. · ردیابی تماسها، شناسایی کلاهبرداران و بازیابی وجوه کار دشواری است. · بسیاری از آژانسها در حال حاضر برای رسیدگی به تعداد فزاینده جعل هویت مجهز نیستند. · بسیاری از شرکتها، محصولات و خدمات هوش مصنوعی را بدون اطلاع کامل از خطرات آن منتشر میکنند.
|
· افرادی که هدف کلاهبرداری قرار میگیرند اغلب افراد مسن هستند و تشخیص اینکه صدایی غیر قابل اصالت است برای آنها دشوار است.
· ضرورت دارد که راهکارهای نوین برای ردیابی تماسها، شناسایی کلاهبرداران و بازیابی وجوه توسعه پیدا کند. · باتوجهبه تعداد زیاد جرائم مرتبط با جعل هویت، ضرورت دارد که زیرساخت لازم برای مواجهه با حجم عظیم مراجعات مردم فراهم گردد. · استفاده از رسانه ملی برای افزایش آگاهی عمومی در مورد کلاهبرداریهای مبتنی بر شبیهسازهای صوتی هوش مصنوعی بهترین راهکار مواجهه با این مشکل است. · توصیه میشود با هرگونه درخواست پول نقد با شک و تردید برخورد شود. قبل از ارسال وجوه، با فردی که درخواست کمک کرده است تماس گرفته شود. |
| فوریه 2022 | دستگیری و بازداشت اشتباه یک زن سیاهپوست باردار به جرم دزدی ماشین[13].
پورکا وودراف[14] اولین زنی است که در نتیجه فناوری تشخیص چهره بهاشتباه متهم شد. |
· طبق گزارش یک بازپرس از اداره پلیس دیترویت، این حادثه با جستجوی خودکار تشخیص چهره آغاز شد.
· خانم وودراف ششمین فردی است که به دلیل استفاده از فناوری تشخیص چهره توسط پلیس برای تطبیق چهره مجرم ناشناس با عکسی در پایگاهداده، متهم به جرمی دروغین شده است. هر شش نفر سیاهپوست بودهاند. خانم وودراف اولین زنی است که این اتفاق را برای او گزارش کردهاند. · بر اساس مطالعهای که توسط مؤسسه ملی استاندارد و فناوری انجام شده است، نرمافزار تشخیص چهره برای سیاهپوستان و آسیاییتبارها به طور قابلتوجهی قابلیت اعتماد کمتری دارد و احتمال شناسایی نادرست آنها 10 تا 100 برابر بیشتر از سفیدپوستان است. |
· خانم وودراف، ۳۲ساله و دانشجوی دانشکده پرستاری، در زمان دستگیری به شکم خود اشاره کرد تا نشان دهد که اتهام چنین سرقتی تا چه حد دورازذهن است: او در زمان دستگیری هشتماهه باردار بود.
· خانم وودراف با دستبند در مقابل خانهاش دستگیر و به بازداشتگاه دیترویت منتقل شد. او گفت که به مدت 11 ساعت در بازداشت بوده است، در مورد جنایتی که به گفته او هیچ اطلاعی در مورد آن ندارد، مورد بازجویی قرار گرفته و آیفون او را برای جستجوی شواهد ضبط کردهاند. · خانم وودراف پس از اتهام به دزدی و سرقت خودرو، عصر همان روز با وثیقه شخصی 100000 دلاری آزاد شد. یک ماه بعد، دادستان پرونده بر اساس شواهد ناکافی، پرونده او را رد کرد. · خانم وودراف شکایتی را برای دستگیری غیرقانونی علیه شهر دیترویت در دادگاه منطقهای ایالات متحده در ناحیه شرقی میشیگان تنظیم کرد. · این حادثه خطرات ناشی از بایاس الگوریتمی سیستمهای هوش مصنوعی را بهوضوح روشن میسازد. همچنین ضرورت بازبینی نتایج توسط انسان را مشخص میکند. |
| نوامبر 2023 | یک ربات صنعتی در کره جنوبی مردی را در کارخانه بستهبندی سبزی له کرد و کشت[15]. | · به گزارش پلیس، ربات صنعتی که جعبههای پر از فلفلدلمهای را بلند میکرد و روی پالت میگذاشت، به نظر میرسد دچار اختلال شده و مرد را جعبهای شناسایی کرده است. به عبارتی، بازوی رباتیک نتوانست او را از جعبههای محصولات متمایز کند. | · این مرد که یک کارگر شرکت رباتیک بود و 40 سال داشت، در حال بررسی عملکرد حسگر ربات مربوطه در یک مرکز توزیع محصولات کشاورزی در استان گیونگ سانگ جنوبی بود که بازوی رباتیک بالای بدن مرد را به سمت تسمه نقاله فشار داد و صورت و سینه او را له کرد[16].
· این حادثه ضرورت آموزش دقیقتر و بهتر رباتهای صنعتی را روشن کرد. همچنین ضرورت توسعه یک نوع سیستم هوشمند ضد برخورد در محیطهای صنعتی را آشکار کرد. بهعنوانمثال، لباس کارگران در محیط رباتیک مجهز به یک سیستم کشف اتصال الکتریکی باشد، طور یکه اگر هر قسمت از ربات به لباس کارگر برخورد کرد، یک آژیر ایمنی با فرکانس صوتی خاص به صدا درآید و با آشکارسازی این صدا، بلافاصله ربات از کار بیفتد. |
| ژانویه 2024 | مجموعهای از پیامهای صوتی و تماسهای تلفنی با تقلید از صدای رئیسجمهور آمریکا (جو بایدن) برای تعدادی از رأیدهندگان ایالت نیوهمپشایر ارسال شد. در این تماسها، ربات صوتی به شنونده میگوید «رأی خود را برای انتخابات نوامبر ذخیره کنید». هدف از این کار منصرفکردن رأیدهندگان در این ایالت از حضور در پای صندوقهای رأی در انتخابات مقدماتی بوده است[17]و[18]. | · معلوم نیست چه کسی پشت این تماسها قرار دارد، اگرچه آنها بهدروغ به گیرندگان نشان دادهاند که از شمارهتلفن شخصی کتی سالیوان، رئیس سابق حزب دموکرات ایالتی با افراد تماس گرفتهاند.
· احتمالاً هکشدن خطوط تلفن همراه دلیل اصلی این اتفاق بوده است.
|
· جان فرملا، دادستان کل نیوهمپشایر، گفت که پیام ضبط شده که برای چندین رأیدهنده ارسال شد، به نظر میرسد تلاشی غیرقانونی برای اختلال و سرکوب رأیگیری باشد. او گفت که رأیدهندگان “باید محتوای این پیام را به طور کامل نادیده بگیرند.”
· کارین ژان پیر، سخنگوی کاخ سفید تأیید کرد که این تماس “در واقع جعلی بوده و توسط رئیسجمهور ضبط نشده است.” · تعدادی از ایالتها قوانینی را در مورداستفاده از هوش مصنوعی در تبلیغات سیاسی وضع کردهاند و دهها ایالت دیگر نیز لایحههایی در این زمینه ارائه کردهاند. · کمیسیون انتخابات فدرال (FEC) در تابستان 2023 یک فرآیند قانونگذاری را برای هوش مصنوعی آغاز کرده است و انتظار میرود که در تابستان 2024 آن را ابلاغ کند. تا آن زمان، تبلیغات با هوش مصنوعی قوانین ایالتی را دنبال میکنند. · اصلاح قانون جرائم رایانهای کشور باهدف برخورد قانونی با تولیدکنندگان دیپفیکهای هوش مصنوعی ممنوعه از مهمترین اقداماتی است که بایستی در سطوح قانونگذاری کشور صورت پذیرد. · برای مواجهه با این خطرات در کشور، ضرورت دارد که شرکتهای ارائهدهنده خدمات ارتباطی مانند همراه اول، رایتل، ایرانسل و… زیرساختهایی را توسعه دهند که صداهای سنتز شده و ساختگی را از صدای واقعی افراد تمیز دهد و درصورتیکه صدا سنتز شده بود اجازه ادامه تماس تلفنی را ندهد. |
| ژانویه 2024 | تصاویر پورنوگرافی جعلی از یک خواننده مشهور آمریکایی (تیلور سوئیفت) که با استفاده از جعل عمیق ساخته شده بودند در فضای مجازی منتشر شد[19]. | · در حال حاضر قانون مشخصی در آمریکا وجود ندارد که مانع از تولید تصاویر پورنوگرافی ساختگی مبتنی بر جعل عمیق شود. در نتیجه، نرمافزارها و پلتفرمهایی که خدمات جعل عمیق ارائه میکنند نظارتی بر محتوای دریافتی از کاربر و محتوای تولیدی خود ندارند.
· خطر تولید چنین محتوایی نهتنها برای هنرمندان، بلکه شخصیتهای سیاسی نیز وجود دارد و میتواند بر نتایج انتخابات نیز اثرگذار باشد. |
· سیاستهای سختگیرانهتر هوش مصنوعی میتواند از افراد جامعه در برابر فناوری جعل عمیق[20] محافظت کند و مانع سوءاستفاده از هوش مصنوعی گردد.
· جو مورل، نماینده ایالت نیویورک لایحهای باهدف جلوگیری از جعل عمیق تصاویر پیشنهاد کرد. اگر این قانون به تصویب برسد، اشتراکگذاری پورنوگرافی جعل عمیق غیرقانونی را ممنوع میکند. · یکی دیگر از پیشنهادهای اخیر در مجلس سنا به قربانیان دیپفیک این امکان را میدهد که از سازندگان و توزیعکنندگان چنین محتوایی برای دریافت خسارت شکایت کنند. · برای جلوگیری از بروز این مشکل، نرمافزارها و پلتفرمهای موجود بایستی متعهد شوند که قبل از اقدام به تولید محتوا، تصاویر و ویدئوهای ورودی را بررسی و از تولید محتوای پورنوگرافی جلوگیری کنند. · ضرورت دارد که اطلاعات دقیق کاربران پلتفرمهای جعل عمیق ثبت گردد تا در صورت لزوم پیگیری قضایی از کاربران مجرم صورت پذیرد. · قانون حفاظت از تصاویر محرمانه[21] و سایبری، به اشتراک گذاشتن تصاویر محرمانه افراد بدون رضایت آنها را جرم تلقی میکند. این قانون بایستی اصلاح شود، طوری که شامل تصاویر مبتنی بر جعل عمیق نیز گردد. · همچنین محتوایی که با کمک هوش مصنوعی تولید یا اصلاح میشود (تصاویر، فایلهای صوتی یا ویدئویی (مثلاً دیپفیکها)) باید به طور واضح برچسب تولید شده توسط هوش مصنوعی داشته باشند تا کاربران هنگام مواجهشدن با چنین محتوایی آگاه شوند. |
| فوریه 2024 | یک کلاهبرداری پیچیده با استفاده از فناوری جعل عمیق صورت گرفت و یک خسارت مالی قابلتوجه (25.6 میلیون دلار آمریکا) به یک شرکت چند ملیتی در هنگ کنگ وارد شد[22]. | · در این کلاهبرداری، از فناوری جعل عمیق برای شبیهسازی یک کنفرانس ویدئویی چندنفره استفاده شد که در آن همه شرکتکنندگان (به جز کارمند بخش مالی شعبه هنگکنگ) ساختگی بودند. تصاویر ساختگی از مدیر ارشد مالی شرکت و سایر کارمندان شرکت در این ویدئوکنفرانس مشاهده میشود که به کارمندی دستور انتقال وجوه دادند. | · جعل عمیق از ابزارهای هوش مصنوعی برای تولید ویدئوهای جعلی یا پیامهای صوتی بسیار طبیعی استفاده میکند و افراد و سازمانها برای تشخیص محتوای واقعی از محتوای ساختگی چالش بزرگی دارند. این چالش روزبهروز بزرگتر میشود. بهعنوانمثال، هوش مصنوعی جدید مایکروسافت به نام VALL-E میتواند صدای هر کسی را با یک نمونه صوتی سهثانیهای شبیهسازی کند[23].
· ضرورت استفاده از ابزارهای شناسایی جعل عمیق[24] در همه پلتفرمهایی که قابلیت اشتراکگذاری تصویر و ویدئو دارند وجود دارد. مکلف ساختن شرکتهای ارائهدهنده خدمات و ویدئوکنفرانس به توسعه این ابزارها اقدام مهمی در این زمینه محسوب میشود. این ابزارها محتوای صوتی و تصویری را آنالیز کرده و در صورت تشخیص ساختگی بودن آن اقدامات لازم را صورت خواهند داد (مشابه عملکرد آنتیویروس در سیستمهای نرمافزاری). · راهحل دیگر برای جلوگیری از کلاهبرداری جعل عمیق، موظف ساختن شرکتهای ارائهدهنده خدمات ویدئوکنفرانس به استفاده رمزنگاری کلید عمومی[25] برای احراز هویت افراد حاضر در جلسات ویدئوکنفرانس است. · راهحل دیگر برای جلوگیری از کلاهبرداری بهواسطه جعل عمیق، موظف ساختن بانکها به توسعه و استفاده از سیستم هشدار تراکنش است، تا پیامها و هشدارهای لازم را قبل از انجام تراکنشهای مشکوک به کلاهبرداری به مشتریان بدهند.
|
با تدوین قوانین و مقررات مسئولیت برای خدمات و سیستمهای هوش مصنوعی، تعادلی بین حقوق کاربران هوش مصنوعی و توسعهدهندگان آن برقرار میشود. ازیکطرف، قوانین سختگیرانه در زمینه هوش مصنوعی میتواند بهعنوان یک مانع در مسیر نوآوری و پیشرفت هوش مصنوعی باشد. از طرف دیگر، فقدان قوانین شفاف و عدم اعمال محدودیتهای قانونی در زمینه هوش مصنوعی، زمینهساز آسیب رسیدن به افراد جامعه خواهد شد. فقدان قوانین مسئولیت مشخص در زمینه هوش مصنوعی منجر به دعاوی حقوقی پرهزینه و زمانبر خواهد شد و عملاً توسعه هوش مصنوعی در ایران را مختل میکند. نکته مهمی که در زمینه سیستمهای هوش مصنوعی وجود دارد این است که برخی از انواع این سیستمها کاملاً خودآموز هستند، به این معنی که اطلاعات را به طور خودکار میگیرند و به دنبال الگوهایی در آنها میگردند. به لحاظ کارکرد، هوش مصنوعی یک جعبه سیاه است که دانستن اینکه چه متغیرهایی در خروجی آن نقش دارند بهشدت پیچیده و در مواردی غیرممکن است. همین موضوع تعیین مسئولیت این سیستمها را پیچیده میکند. در بحث تنظیمگری هوش مصنوعی این موضوع بسیار مهم است که اطمینان حاصل شود که همه ذینفعان (شامل کاربران، توسعهدهندگان، تنظیمکنندهها و جوامع آسیبدیده) مسئولیت کافی برای اطمینان از ایمنی و اثربخشی هوش مصنوعی را بر عهده دارند. کشورهای مختلف تاکنون اقداماتی در زمینه تنظیمگری هوش مصنوعی انجام دادهاند. کشورهای عضو اتحادیه اروپا، ایالات متحده و چین از جمله این کشورها هستند. گزارشی از اقدامات این کشورها در زمینه تنظیمگری هوش مصنوعی در جدول (2) آورده شده است.
جدول (2): اقدامات کشورهای جهان در زمینه تنظیمگری هوش مصنوعی
| زمان | کشور یا سازمان | دستاوردها |
| آوریل 2021 | اتحادیه اروپا | کمیسیون اروپا[26] اولین چهارچوب قانونی اتحادیه اروپا را برای هوش مصنوعی پیشنهاد کرد.
این چهارچوب قانونی بیان میدارد که سیستمهای هوش مصنوعی که میتوانند در برنامههای مختلف استفاده شوند، باتوجهبه ریسکهایی که برای کاربران ایجاد میکنند، تجزیهوتحلیل و طبقهبندی میشوند. سطوح مختلف ریسک به معنای مقررات کموبیش خواهد بود. |
| ژوئن 2023 | شرکت گوگل | شرکت گوگل چهارچوب هوش مصنوعی امن (SAIF)[27] خود را معرفی کرد[28].
در تاریخ 8 ژوئن 2023 شرکت گوگل از چهارچوب تنظیمگیری خود با نام اختصاری SAIF رونمایی کرد. این چهارچوب با هدف کاهش خطرات سیستمهای هوش مصنوعی مانند مسمومیت دادههای آموزشی، تزریق دادههای ورودی مخرب و استخراج اطلاعات محرمانه از دادههای آموزشی طراحی شده است. شش محور اصلی SAIF عبارتند از: ü گسترش پایههای امنیتی به اکوسیستم هوش مصنوعی ü بهموقع بودن در شناسایی و پاسخگویی به حوادث سایبری مرتبط با هوش مصنوعی ü خودکار کردن دفاعها برای مواجهه سریع با تهدیدات هوش مصنوعی ü هماهنگکردن کنترلهای سطح پلتفرم برای اطمینان از امنیت پایدار ü ایجاد حلقههای بازخورد سریع برای تطبیق با سیستمهای هوش مصنوعی ü زمینهسازی برای ارزیابی ریسکهای سیستم هوش مصنوعی در کسبوکار |
| اکتبر 2023 | ایالات متحده آمریکا | کاخ سفید دستور اجرایی جدیدی برای کاهش خطرات هوش مصنوعی را صادر کرد.
این دستور اجرایی باهدف حمایت از مصرفکنندگان، کارگران و گروهی اقلیت و درعینحال تقویت امنیت ملی صادر شد. همچنین دولت جو بایدن قانونگذاران آمریکایی را برای تنظیم مقررات هوش مصنوعی تحتفشار قرار داده است، اما کنگره ایالات متحده در این زمینه دو قطبیشده و پیشرفت چندانی نداشته است. |
| مارس 2024 | اتحادیه اروپا | پارلمان اروپا قانون هوش مصنوعی را با اکثریت آرا تصویب کرد[29].
قانون هوش مصنوعی[30] در روز چهارشنبه 13 مارس 2024 توسط قانونگذاران اروپایی تصویب شد. تنها 46 نماینده پارلمان اروپا[31] در استراسبورگ به این پیشنهاد رای منفی دادند و 523 نماینده دیگر رای مثبت دادند. مقامات ارشد اتحادیه اروپا گفتند این قوانین که برای اولین بار در سال 2021 پیشنهاد شد، از شهروندان در برابر خطرات احتمالی توسعه فناوری هوش مصنوعی با سرعت سرسامآور محافظت میکند و در عین حال نوآوری را نیز تقویت میکند. انتظار میرود شورای اروپا تا ماه مه 2024 این قانون را به طور رسمی تایید کند. 24 ماه پس از لازم الاجرا شدن آن به طور کامل قابل اجرا خواهد بود، اما برخی از بخش ها زودتر قابل اجرا خواهند بود. مثلا ممنوعیت سیستمهای هوش مصنوعی که خطرات غیرقابل قبولی[32] دارند، 6 ماه پس از لازمالاجرا شدن اعمال خواهد شد، یا قوانین مربوط به سیستمهای هوش مصنوعی همه منظوره[33] که باید با الزامات شفافیت مطابقت داشته باشند، 12 ماه پس از لازم الاجرا شدن اعمال خواهند شد. همچنین سیستمهای پرخطر زمان بیشتری برای رعایت الزامات خواهند داشت زیرا تعهدات مربوط به آنها 36 ماه پس از لازمالاجرا شدن قابل اجرا خواهند بود[34]. بر اساس این قانون، شرکتهای هوش مصنوعی که مرتکب تخلف میشوند، بسته به نوع تخلف و اندازه شرکت با جریمههایی از 7.5 تا 35 میلیون یورو (8.2 تا 38.2 میلیون دلار) مواجه شوند. قانون هوش مصنوعی اروپا یک استاندارد جهانی برای توسعه هوش مصنوعی اخلاقی و مسئولانه تعیین میکند. اما به گفته برخی کارشناسان، مقررات اتحادیه اروپا بیش از حد تجویزی و سنگین است و به طور بالقوه نوآوری در حوزه هوش مصنوعی را خفه میکند. بهعبارتدیگر، قوانین اتحادیه اروپا برای حفاظت از منافع جامعه کاربران اهمیت زیادی قائل شده است و همین موضوع چالشهایی را برای توسعهدهندگان هوش مصنوعی، استارتآپها و کسبوکارهای کوچک ایجاد خواهد کرد. |
| مارس 2024 | جمهوری خلق چین | پیشنویس قانون هوش مصنوعی جمهوری خلق چین در 18 مارس 2024 منتشر شد[35].
این پیشنویس که به طور رسمی «قانون هوش مصنوعی جمهوری خلق چین (پیشنویس پیشنهادهای محققان) [36]» نامیده میشود، در قالب یک پروژه ملی در آکادمی علوم اجتماعی چین[37] تعریف شد. عنوان این پروژه “تحقیق در مورد وضعیت ساخت سیستم بازنگری اخلاقی هوش مصنوعی چین و سیستم نظارتی”[38] بود و توسط یک گروه تخصصی متشکل از 20 نفر از کارشناسان و دانشمندان از بیش از 14 دانشگاه چین انجام پذیرفت. این پیشنویس متشکل از 7 فصل و 73 ماده حقوقی است. فصول این پیشنویس عبارتند از: ü فصل 1: اصول عمومی ü فصل 2: پشتیبانی و ترویج هوش مصنوعی ü فصل 3: سیستم مدیریت هوش مصنوعی ü فصل 4: تعهدات محققان، توسعه دهندگان و ارائهدهندگان هوش مصنوعی ü فصل 5: مکانیزم جامع حکمرانی هوش مصنوعی ü فصل 6: مسئولیت های قانونی ü فصل 7: مقررات تکمیلی در ماده 12 این پیشنویس، تشکیل « اداره ملی هوش مصنوعی[39]» به عنوان مرجع صالح برای توسعه و مدیریت هوش مصنوعی در کل چین پیشنهاد شده است. همچنین در ماده 16 این پیشنویس پیشنهاد شده است که یک زیرساخت محاسباتی با عنوان «سیستم ملی یکپارچه مراکز داده بزرگ[40]» با حمایت دولت ساخته شود. همچنین در ماده 24، دولت موظف به ایجاد یک «سامانه مدیریت لیست منفی[41]» شده است، که شامل مواردی است که دارای ریسک غیرقابل قبول است و قبل از انجام تحقیق، توسعه و ارائه محصولات و خدمات، شرکتها و مراکز پژوهشی موظفند که مجوز اداری از اداره ملی هوش مصنوعی اخذ کنند. در صورت اعطای مجوز، پروانه تحقیق و توسعه و یا عرضه هوش مصنوعی برای متقاضی صادر میشود. انجام فعالیت های تحقیق و توسعه و ارائه هوش مصنوعی در لیست منفی بدون مجوز یا خارج از محدوده مجوز ممنوع است. علاوه بر این، به توسعهدهندگان هوش مصنوعی توصیه شده است که یک سیستم مدیریت ریسک[42] راهاندازی کنند. |
| مارس 2024 | سازمان ملل متحد | سازمان ملل اولین قطعنامه در مورد هوش مصنوعی را تصویب کرد.
مجمععمومی سازمان ملل متحد بهاتفاق آرا اولین قطعنامه جهانی در مورد هوش مصنوعی را برای تشویق حفاظت از دادههای شخصی، نظارت بر هوش مصنوعی از نظر خطرات و حفاظت از حقوق بشر به تصویب رساند. این قطعنامه که توسط ایالات متحده حمایت میشود و با حمایت مشترک 123 کشور، با اجماع و بدون رایگیری در روز پنجشنبه 21 مارس 2024 به تصویب رسید، به این معنی که از حمایت همه 193 کشور عضو سازمان ملل برخوردار است. کامالا هریس، معاون رئیسجمهور ایالات متحده در بیانیهای گفت: «این قطعنامه مسیری را برای هوش مصنوعی ایجاد میکند که در آن هر کشور میتواند هم وعدههای هوش مصنوعی را بپذیرد و هم خطرات هوش مصنوعی را مدیریت کند».[43] |
تنظیمگری هوش مصنوعی به معنای تعیین قوانین، مقررات و استانداردهای مربوط به توسعه و استفاده از هوش مصنوعی است. این مفاهیم میتوانند شامل مسائل امنیتی، حریم خصوصی، شفافیت، مسئولیت و اخلاقیات استفاده از هوش مصنوعی باشد. با تنظیمگری هوش مصنوعی، میتوان خطرات ناشی از هوش مصنوعی را کاهش داد، امنیت و اعتماد عمومی به سامانهها و الگوریتمهای هوش مصنوعی را ارتقا بخشید و مسیر توسعه هوش مصنوعی و افزایش تنوع محصولات آن را هموار کرد. در این مقاله به بررسی برخی حوادث مرتبط با سیستمهای هوش مصنوعی پرداخته شد و آخرین دستاوردها در زمینه تنظیمگری سیستمهای هوش مصنوعی در کشورهای جهان مورد بررسی و تحلیل قرار گرفت.
[1] https://www.nytimes.com/2016/07/01/business/self-driving-tesla-fatal-crash-investigation.html
[2] https://abc7news.com/stanford-shopping-center-robot-kid-hurt-hurts-child-mall/1423093/
[3] https://www.prolific.com/resources/shocking-ai-bias
[4] Stephen Pettitt
[5]https://www.topneurodocs.com/surgical-robot-kills-man-on-operating-table-while-doctors-sipped-lattes/
[6] https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg
[7] Negligent homicide
[8] collision avoidance systems
[9]https://www.cnbc.com/2023/12/18/felony-charges-are-first-in-a-fatal-crash-involving-tesla-autopilot.html
[10]https://www.cnbc.com/2023/12/18/felony-charges-are-first-in-a-fatal-crash-involving-tesla-autopilot.html
[11]https://apnews.com/article/artificial-intelligence-algorithm-technology-police-crime-7e3345485aa668c97606d4b54f9b6220
[12]https://arstechnica.com/tech-policy/2023/03/rising-scams-use-ai-to-mimic-voices-of-loved-ones-in-financial-distress/
[13] https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html
[14] Porcha Woodruff
[15] https://www.bbc.com/news/world-asia-67354709
[16]https://www.theguardian.com/technology/2023/nov/08/south-korean-man-killed-by-industrial-robot-in-distribution-centre
[17]https://apnews.com/article/new-hampshire-primary-biden-ai-deepfake-robocall-f3469ceb6dd613079092287994663db5
[18] https://www.theguardian.com/us-news/2024/feb/26/ai-deepfakes-disinformation-election
[19]https://www.scientificamerican.com/article/tougher-ai-policies-could-protect-taylor-swift-and-everyone-else-from-deepfakes/
[20] Deepfakes
[21] Intimate Images Act
[22] https://arstechnica.com/information-technology/2024/02/deepfake-scammer-walks-off-with-25-million-in-first-of-its-kind-ai-heist/
[23]https://arstechnica.com/information-technology/2023/01/microsofts-new-ai-can-simulate-anyones-voice-with-3-seconds-of-audio/
[24] Deepfake Detector Tools
[25] Public-key cryptography
[26] کمیسیون اتحادیه اروپا (European Commission) بخشی از دستگاه اجرایی اتحادیه اروپا است و با 27 عضو کمیسیون (یک نماینده از هر کشور عضو اتحادیه اروپا) به عنوان یک دولت کابینه عمل میکند. برای تصویب قانون، ابتدا کمیسیون اروپا پیشنهادی را به شورا و پارلمان اروپا ارائه میکند. شورای اتحادیه اروپا (European Council) و پارلمان اتحادیه اروپا (European Parliament) یک پیشنهاد قانونی را در قرائت اول یا در قرائت دوم تصویب میکنند. اگر دو نهاد پس از قرائت دوم به توافق نرسند، کمیته مصالحه تشکیل میشود. شورای اروپا متشکل از یک وزیر دولتی از هر کشور عضو اتحادیه است و بخشی از فرآیند قانونگذاری در اتحادیه اروپا است. کمیسیون اروپا، مجری قوانین در اتحادیه اروپا است.
[27] Secure AI Framework (SAIF)
[28] https://blog.google/technology/safety-security/introducing-googles-secure-ai-framework/
[29] https://www.aljazeera.com/news/2024/3/13/eu-parliament-greenlights-landmark-artificial-intelligence-regulations
[30] The Artificial Intelligence Act
[31] پارلمان اروپا نماینده شهروندان کشورهای اتحادیه اروپا است و مستقیماً توسط آنها انتخاب میشود. این پارلمان تصمیمات مربوط به قوانین اروپا را به طور مشترک با شورای اروپا که متشکل از سران کشورها یا دولتهای کشورهای عضو اتحادیه اروپا است اتخاذ میکند.
[32] Unacceptable risks
[33] General-purpose AI
[34] https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[35] http://www.fxcxw.org.cn/dyna/content.php?id=26910
[36] Artificial Intelligence Law of the People’s Republic of China (Draft of Scholars’ Suggestions)
[37] Chinese Academy of Social Sciences
[38] “Investigation on the Status of the Construction of China’s Artificial Intelligence Ethics Review and Regulatory System”
[39] National AI Office
[40] National integrated big data centers system
[41] Negative List Management System
[42] risk management system
[43] https://www.aljazeera.com/news/2024/3/21/the-un-approves-its-first-resolution-on-artificial-intelligence
