نویسنده: موسسه RAND        مترجم: مرجان بختیاری        ۲ تیر ۱۴۰۳

درک مردم از کاربرد هوش مصنوعی برای امنیت داخلی

وزارت امنیت داخلی آمریکا برای اجرای برنامه‌هایش همزمان به چند مورد مهم نیاز دارد: ۱- اعتماد مردم ۲- تایید کنگره برای تامین بودجه و تصویب قوانین حمایتی ۳- همکاری شرکت‌های فناوری و سایر شرکا برای پیشبرد برنامه‌ها. این موارد مهم در یک نظرسنجی عمومی مورد بررسی قرار گرفته‌اند.

---

این مقاله حاصل نظرسنجی گروه سنجش زندگی آمریکایی موسسه RAND است که در تاریخ ۲۰ مارس ۲۰۲۴ با عنوان
Public Perceptions of Artificial Intelligence for Homeland Security
در وب‌سایت RAND منتشر شده است. ترجمه این مطلب توسط مرجان بختیاری انجام شده و در اختیار خوانندگان گرامی قرار می‌گیرد.

---

یافته‌های کلیدی

• بسیاری از شرکت کنندگان در نظرسنجی نشان دادند که در مورد استفاده دولت از فناوری تشخیص چهره (FRT)[۱] نظر قاطعی ندارند. 
• پاسخ دهندگان با این موضوع موافق بودند که استفاده دولت از FRT هم مزایا و هم ریسک‌هایی دارد، اما آنها بیشتر تمایل داشتند که ریسک‌ها را نسبت به مزایا تأیید کنند. 
• پاسخ دهندگان عواملی مانند امنیت، دقت و حریم خصوصی را نسبت به سرعت یا سهولت، مهمتر ارزیابی کردند.
• پاسخ دهندگان گزارش دادند که معتقدند دولت برای استفاده از FRT ملزم به رعایت الزامات خاصی است.
• پشتیبانی عمومی بیشتر به کاربرد فناوری بستگی دارد تا به خود فناوری.
• کمتر از ۲۵ درصد از پاسخ دهندگان گزارش دادند که به استفاده دولت از FRT اعتماد دارند.

چگونه هوش مصنوعی برای امنیت داخلی استفاده می‌شود؟

وزارت امنیت داخلی آمریکا (DHS) از هوش مصنوعی (AI) برای امنیت مرزها، فرودگاه‌ها، تحقیقات جنایی و اجرای قوانین مهاجرت استفاده می‌کند. این فناوری‌ها شامل تشخیص چهره و الگوریتم‌های پیش‌بینی خطر (که احتمال وقوع جرم را تخمین می‌زنند) می‌شوند. DHS می‌خواهد استفاده از این فناوری‌ها را گسترش دهد و از ابزارهایی مثل دوربین‌های پلاک‌خوان و ردیاب موقعیت گوشی همراه هم استفاده کند.

با این حال، DHS در استفاده از هوش مصنوعی با موانعی روبرو است. دلیل این موانع، نگرانی‌های ذینفعان کلیدی مثل کنگره، شرکت‌های فناوری و حتی مردم عادی درباره حفظ حریم خصوصی، آزادی‌های مدنی و عدالت است. این ذینفعان نگرانند که استفاده DHS از هوش مصنوعی به این موارد آسیب بزند.

درک نگرانی‌های این ذینفعان برای DHS اهمیت زیادی دارد. به چند دلیل: اول اینکه DHS برای اجرای برنامه‌هایش به اعتماد مردم نیاز دارد. دوم اینکه برای تامین بودجه و تصویب قوانین حمایتی به تایید کنگره نیازمند است. سوم اینکه برای پیشبرد این برنامه‌ها به همکاری شرکت‌های فناوری و سایر شرکا احتیاج دارد.

DHS قبلا در تلاش برای اجرای اسکنرهای بدن در فرودگاه‌ها با مخالفت‌های گسترده روبرو شده است. به همین دلیل، برای آنها بسیار مهم است که درک درستی از دیدگاه مردم نسبت به استفاده از این فناوری‌ها داشته باشند.

برای درک بهتر دیدگاه مردم، وزارت امنیت داخلی آمریکا (DHS) از مرکز تحلیل عملیات امنیت داخلی (Homeland Security Operational Analysis Center) خواست تا ارزیابی از نگرش فعلی مردم نسبت به کاربردهای بالقوه هوش مصنوعی (AI) انجام دهد و همچنین توصیه‌هایی برای رسیدگی به هرگونه نگرانی عمومی ارائه کند. این مطالعه اولین گام برای بررسی دیدگاه مردم نسبت به انواع مختلف فناوری‌ها بود.

پژوهشگران با نظرسنجی از یک نمونه ملی و متنوع از بزرگسالان آمریکایی، درک آنها را از چهار نوع فناوری مبتنی بر هوش مصنوعی مورد بررسی قرار دادند:

۱- فناوری تشخیص چهره
۲- فناوری پلاک‌خوانی خودرو
۳- ارزیابی ریسک[۲]
۴- داده‌های موقعیت مکانی تلفن همراه

در نظرسنجی که با حضور ۲۸۴۱ شرکت کننده انجام شد، نظرات آن‌ها در مورد استفاده‌های بالقوه دولت از هر یک از چهار فناوری [تشخیص چهره، پلاک‌خوانی خودرو، ارزیابی ریسک و موقعیت‌یاب تلفن همراه] مورد بررسی قرار گرفت. نظرسنجی با استفاده از گروه سنجش زندگی آمریکایی[۳] موسسه RAND انجام شد. این گروه، یک پنل ملی و نماینده‌ی عموم مردم آمریکا است. نتایج کامل نظرسنجی در یک گزارش منتشر شده است؛ بخش زیادی از تحلیل و یافته‌هایی که در اینجا آمده بر نتایج مربوط به فناوری تشخیص چهره متمرکز است. این تمرکز احتمالا به دلیل اهمیت بیشتر این فناوری برای وزارت امنیت داخلی آمریکا و جنجال‌های ایجاد شده و پوشش خبری گسترده در مورد استفاده از آن است.

سوالات نظرسنجی درباره فناوری تشخیص چهره

موارد زیر را تا چه حد تایید یا رد می کنید؟

• استفاده دولت آمریکا از فناوری تشخیص چهره، مزایایی به همراه دارد.
• استفاده دولت آمریکا از فناوری تشخیص چهره، ریسک‌هایی به همراه دارد.
• به طور کلی، مزایای استفاده دولت آمریکا از فناوری تشخیص چهره، از معایب آن بیشتر است.
• به استفاده دولت آمریکا از فناوری تشخیص چهره اعتماد دارم.
• به استفاده وزارت امنیت داخلی آمریکا از فناوری تشخیص چهره اعتماد دارم.

کدام‌یک از موارد زیر برای استفاده دولت ایالات متحده از فناوری تشخیص چهره مهم هستند؟

• رضایت (توانایی دادن رضایت)
• دقت
• سهولت استفاده
• عدالت
• نظارت
• حریم خصوصی
• امنیت
• سرعت
• شفافیت

تا چه اندازه از الزامات زیر برای استفاده دولت ایالات متحده از فناوری تشخیص چهره حمایت یا با آن مخالفت می‌کنید؟

• امکان انصراف افراد از تشخیص چهره توسط دولت
• انجام بازرسی‌های منظم از سیستم تشخیص چهره
• حذف تصاویر هنگامی که دیگر نیازی به آنها نیست
• نیاز به حکم دادگاه برای برخی موارد خاص
• کسب رضایت افراد قبل از جمع‌آوری تصاویر چهره آنها
• کسب رضایت افراد در صورتی که تصاویر چهره آنها به اشتراک گذاشته شود
• ارائه اطلاعات در مورد نحوه استفاده از فناوری تشخیص چهره
• الزام به آموزش ویژه برای استفاده از فناوری تشخیص چهره
• نگهداری امن تصاویر

دولت آمریکا ممکن است از فناوری تشخیص چهره برای محافظت از مردم آمریکا به روش‌های مختلفی استفاده کند. تا چه حد از موارد زیر حمایت می‌کنید؟

• شناسایی کودک قربانی جرم
• شناسایی فرد بزرگسال قربانی جرم
• شناسایی مظنون به جرم
• تعیین اینکه آیا احتمال ارتکاب جرم توسط فردی وجود دارد
• شناسایی فرد مظنون به نقض قوانین مهاجرت مانند ویزای منقضی
• شناسایی مسافران فرودگاه
• شناسایی دانش آموزان، معلمان یا بازدیدکنندگان مدارس
• شناسایی دانشجویان، اساتید یا بازدیدکنندگان دانشگاه‌ها
• شناسایی بازدیدکنندگان ساختمان‌های دولتی مانند دادگاه‌ها
• شناسایی افراد در اماکن عمومی مانند پارک‌ها یا استادیوم‌ها
• شناسایی افراد در اعتراضات و تظاهرات
• شناسایی افراد در مکان‌های رأی‌گیری
• غربالگری رویدادهای عمومی برای شناسایی مظنونان تروریست
• تشخیص اینکه فردی راست می‌گوید یا دروغ

نظرسنجی

در این نظرسنجی، از شرکت‌کنندگان در مورد درک آنها از مزایا و ریسک‌های مرتبط با هر فناوری و همچنین استفاده از آن توسط دولت فدرال، از جمله وزارت امنیت داخلی (DHS) سوال شد. همچنین، سناریویی در مورد استفاده از فناوری به آنها ارائه شد و از آنها خواسته شد تا میزان راحتی خود را با آن کاربرد خاص توصیف کنند.

یافته‌های نظرسنجی در مورد دیدگاه‌ها نسبت به فناوری تشخیص چهره

بخش زیادی از پاسخ‌دهندگان در مورد استفاده دولت از FRT نظر قاطعی نداشتند. این نشان می‌دهد که عده قابل توجهی ممکن است هنوز در این مورد به جمع‌بندی نرسیده باشند یا نسبت به استفاده دولتی از FRT بی‌طرف باشند. حدود ۴۰ درصد از پاسخ‌ها به این سؤال که آیا مزایای FRT بیشتر از معایب آن است، خنثی یا مبهم بود (مانند «نه موافق و نه مخالف»). جالب است که ارائه پاسخ خنثی ارتباط زیادی با ویژگی‌های فردی مانند سن، جنسیت، نژاد، قومیت یا وضعیت اجتماعی و اقتصادی نداشت.

پاسخ‌دهندگان موافق بودند که استفاده دولت از فناوری تشخیص چهره (FRT) هم مزایا و هم معایب دارد، اما نگرانی بیشتری نسبت به معایب آن داشتند. به عبارت دیگر، تعداد افرادی که معتقد بودند استفاده دولت از این فناوری با ریسک‌هایی همراه است، بیشتر از کسانی بود که مزایای آن را تایید کردند. در واقع، تنها نیمی از پاسخ‌دهندگان بر این باور بودند که مزایای FRT بر معایب آن می‌چربد. (تصویر ۱ را ببینید)

شکل ۱: درک عموم از مزایا و خطرات استفاده دولتی از فناوری تشخیص چهره
عموم مردم بر این باورند که استفاده دولت از فناوری تشخیص چهره (FRT)  همراه با مزایا و خطرات است، اما آن‌ها بیشتر به خطرات آن اذعان دارند.

پاسخ دهندگان در مورد عواملی که دولت هنگام تصمیم‌گیری درباره استفاده از FRT باید در نظر بگیرد، بر اهمیت طیف گسترده‌ای از این عوامل تأکید کردند. امنیت، دقت و حریم خصوصی برای پاسخ‌دهندگان از سرعت و سهولت اهمیت بیشتری داشت. (به شکل ۲ مراجعه کنید)

شکل ۲: چه عواملی برای استفاده دولت از فناوری تشخیص چهره مهم هستند؟
گزینه‌های زیر برای استفاده دولت ایالات متحده از فناوری تشخیص چهره چقدر مهم هستند؟

درصد پاسخ‌دهندگانی که این عامل را بسیار مهم یا تا حدودی مهم ارزیابی کردند.
پاسخ‌دهندگان معتقد بودند که دولت برای استفاده از فناوری تشخیص چهره ملزم به رعایت الزامات خاصی است. در نظرسنجی از آنها پرسیده شد که چه الزاماتی را برای استفاده از FRT ضروری می‌دانند، و اکثر قریب به اتفاق آنها بر اهمیت چند مورد اساسی تأکید کردند، از جمله آموزش ویژه، شفافیت در مورد دلایل استفاده، و نگهداری امن تصاویر (به شکل ۳ مراجعه کنید). جالب اینجاست که کم‌تر از ۱۰ درصد از پاسخ‌دهندگان، هر یک از این الزامات را غیرضروری ارزیابی کردند.

شکل ۳: الزامات مهم برای استفاده دولتی از فناوری تشخیص چهره
کدام یک از موارد زیر برای استفاده دولت آمریکا از فناوری تشخیص چهره مهم است؟

حمایت مردم بیشتر به کاربرد فناوری بستگی دارد تا خود فناوری. نظرسنجی از پاسخ‌دهندگان در مورد میزان موافقت آن‌ها با استفاده دولت از هر یک از چهار نوع فناوری برای کاربردهای مختلف پرسیده است (شکل ۴ را ببینید). پاسخ‌ها برای انواع مختلف فناوری مشابه بودند، این امر نشان می‌دهد که حمایت مردم بیشتر به نحوه‌ی استفاده‌ی پیشنهادی از این فناوری بستگی دارد تا خود نوع آن. حمایت از شناسایی قربانیان جرم یا مظنونین به طور قابل توجهی بیشتر از برخی موارد دیگر مانند شناسایی افراد در اماکن عمومی، پیش‌بینی احتمال ارتکاب جرم توسط فرد یا تلاش برای تشخیص راستگویی فرد بود.

شکل ۴: پشتیبانی از استفاده دولتی از فناوری تشخیص چهره
دولت ایالات متحده ممکن است از فناوری تشخیص چهره برای حفظ امنیت مردم آمریکا به روش‌های مختلفی استفاده کند. تا چه حد از موارد زیر حمایت می‌کنید؟

پژوهشگران در نهایت می‌خواستند میزان حمایت بیشتر یا کمتر مردم را درباره استفاده از فناوری تشخیص چهره توسط وزارت امنیت داخلی نسبت به کل دولت فدرال بسنجند. با وجود اینکه تنها ۲۹ درصد از پاسخ‌دهندگان به استفاده وزارت امنیت داخلی از FRT اعتماد نشان دادند، حتی تعداد کمتری - یعنی کمتر از ۲۵ درصد - به استفاده کل دولت از FRT اعتماد داشتند. اگرچه به نظر می‌رسد اعتماد مردان، جوان‌ترها و افرادی که از پلتفرم‌های خاص شبکه‌های اجتماعی استفاده می‌کنند، کمتر بوده است، اما این تفاوت‌ها چشمگیر نبودند.

وزارت امنیت داخلی چه اقداماتی می‌تواند انجام دهد؟

این نظرسنجی سراسری به همراه تحقیقات قبلی RAND در مورد درک و برداشت‌های نادرست مردم از فناوری‌ها، گام‌هایی را پیشنهاد می‌کند که وزارت امنیت داخلی می‌تواند برای رسیدگی به دیدگاه عموما ضعیف یا خنثی مردم نسبت به استفاده از فناوری تشخیص چهره (FRT) بردارد. این گام‌ها شامل ارزیابی مستمر این دیدگاه‌ها می‌شود.

۱- با جوامعی که نسبت به استفاده دولت از هوش مصنوعی (AI) مطمئن نیستند یا دیدگاه خنثی دارند، به طور پیشگیرانه تعامل کنید. بخش زیادی از شرکت‌کنندگان در نظرسنجی که واکنش‌های مبهم یا خنثی نسبت به فناوری‌های خاص یا کاربردهای آن‌ها نشان دادند، نقش مهمی را برای وزارت امنیت داخلی در شکل‌دهی پیشگیرانه افکار عمومی نشان می‌دهد. از آنجایی که این فناوری‌ها به سرعت در حال توسعه هستند، وزارت امنیت داخلی باید قبل از هر اقدامی برای استقرار، تعامل پیشگیرانه با این جوامع را در نظر بگیرد.

۲- روی کاربردها و حفاظت‌ها تمرکز کنید، نه نوع فناوری هوش مصنوعی. نتایج نظرسنجی به طور واضح نشان داد که نگرانی‌های گزارش‌شده توسط پاسخ‌دهندگان بر روی کاربردهای خاص و تدابیر حفاظتی قابل اعمال متمرکز شده است، نه خود فناوری. پاسخ‌دهندگان بیشتر با برخی از کاربردهای احتمالی مخالفت نشان دادند تا موافقت، مانند تعیین اینکه آیا یک فرد احتمالاً مرتکب جرم می‌شود یا راست می‌گوید، یا شناسایی افراد در اعتراضات، تظاهرات یا صرفاً در اماکن عمومی. این نتایج نشان می‌دهد که وزارت امنیت داخلی هنگام در نظر گرفتن چنین استفاده‌هایی باید احتیاط بیشتری به خرج دهد.

۳- به منابعی که زیربنای هوش مصنوعی هستند توجه کنید. پاسخ‌دهندگان حمایت بیشتری از منابع داده‌ای متعلق به دولت [مانند سوابق کیفری] نسبت به سایر منابع داده [مانند رسانه‌های اجتماعی و داده‌های تجاری در دسترس] نشان دادند. این یافته نشان می‌دهد که وزارت امنیت داخلی باید از فرصت استفاده از داده‌های داخلی یا داده‌های سایر منابع دولتی بهره‌برداری کند.

۴- در نظر گرفتن دیدگاه عمومي در چرخه عمر توسعه و اکتساب فناوری. وزارت امنیت داخلی باید ملاحظات اجتماعی در مورد چگونگی استقرار گسترده فناوری را در تمام جنبه‌های استقرار فناوری ادغام کند، از جمله نگرانی‌های مربوط به حریم خصوصی؛ نباید منتظر بماند تا پس از استقرار واقعی، ارزیابی تأثیرات را انجام دهد.

توسعه رویکردهایی برای سنجش مستمر دیدگاه‌های عمومی نسبت به کاربردهای هوش مصنوعی (AI)، مانند فناوری تشخیص چهره (FRT) برای تحقیقات جنایی یا امنیت فرودگاه، می‌تواند به توانایی وزارت امنیت داخلی (DHS) در اجرای این برنامه‌ها در عین حال حفظ حمایت و اعتماد مردم کمک کند.

---

درباره نویسندگان:
Benjamin Boudreaux, Douglas Yeung, Rachel Steratore, Thomas Goode, Nidhi Kalra, Sydne J. Newberry, Michael W. Robbins, Natalia Henriquez Sanchez, Keller Scholl, Victoria M. Smith.

---

پاورقی‌ها:

[1] FRT : فناوری تشخیص چهره (Face Recognition Technology) است.
[2] : این الگوریتم‌ها از هوش مصنوعی برای پیش‌بینی احتمال وقوع رویدادهایی مانند جرم یا تهدیدات امنیتی استفاده می‌کنند.
[3] American Life Panel [ALP]