نویسنده: زوزانا مارسینیاک نوکی        مترجم: مرجان بختیاری        ۱۵ خرداد ۱۴۰۳

چالش‌های هوش مصنوعی در فرهنگ مراقبت از افراد

در زمینه صلاحیت فرهنگی، نگرانی‌های خاصی وجود دارد، که یکی از آنها در نظر گرفتن ماهیت انعطاف‌پذیر و سیالی است که نه فقط خصوصیت هوش مصنوعی مولد است، بلکه خود فرهنگ نیز چنین ویژگی دارد که پیچیده و دائماً در حال تحول هست.

---

این مطلب نوشته‌ای است از زوزانا مارسینیاک-نوکی که در تاریخ ۲۴ می ۲۰۲۴ با عنوان
Culturally Appropriate Care in the Age of AI
در وب‌سایت RAND منتشر شده است. ترجمه این مطلب توسط مرجان بختیاری انجام شده و در اختیار خوانندگان گرامی قرار می‌گیرد.

---

ظهور هوش مصنوعی مولد (Generative AI) به عنوان یک انقلاب تکنولوژیکی در مقیاسی مشابه با معرفی رایانش ابری و موبایلی توصیف شده است. این فناوری به همراه پیشرفت‌های گسترده‌تر فناوری، مانند حسگرهایی که می‌توانند از افراد نیازمندِ مراقبت حمایت کنند، پتانسیل قابل توجهی در تغییر مراقبت‌های اجتماعی را دارد. اما این امر برای مراقبت‌های اجتماعی با حساسیت‌های فرهنگی چه معنایی خواهد داشت؟

هوش مصنوعی مولد، یعنی هوش مصنوعی که قادر به ایجاد داده‌های جدید است، چالش‌های خاصی را در مراقبت‌های اجتماعی بزرگسالان ایجاد می‌کند. در برخی از کشورها، از این فناوری برای ایجاد برنامه‌های مراقبتی شخصی‌سازی‌شده استفاده می‌شود. چنین برنامه‌هایی نه تنها نیازها و ترجیحات فردی را در نظر می‌گیرند، بلکه می‌توانند ارزیابی‌های پیش‌بینی‌کننده‌ای را نیز ارائه دهند. به عنوان مثال در مورد خطر سقوط یا وخامت بیشتر سلامتی. از فناوری هوش مصنوعی برای مطابقت مراقبان با فرهنگ‌های خاص با بزرگسالان نیازمند مراقبت‌های اجتماعی استفاده شده است و هوش مصنوعی مولد در حال حاضر در برخی از مراکز مراقبتی، منابع را برنامه‌ریزی و تخصیص می‌دهد. همچنین سایر کاربردهای مشابه، مانند ارائه حمایت سلامت روان برای بیماران و مراقبین از طریق چت‌بات‌ها در حال بررسی است.

مراقبت با حساسیت فرهنگی، که همچنین با عنوان مراقبت با صلاحیت فرهنگی شناخته می‌شود، به هویت و میراث فرهنگی افرادی که از آن‌ها مراقبت می‌شود، حساس است و با بهبود نتایج درمانی بیماران مرتبط بوده است. این نوع مراقبت شامل توجه ویژه به باورهای افراد، از جمله درک آنها از مراقبت بر اساس عواملی مانند قومیت، ملیت، مذهب، گرایش جنسی یا هویت جنسیتی است. در حالی که تعریف فرهنگ کار ساده‌ای نیست، می‌توان آن را به عنوان یک «چارچوب معنا» درک کرد که به ما امکان می‌دهد تا از جهان سر در بیاوریم و زندگی خود را سامان دهیم. اهمیت مراقبت اجتماعی با حساسیت فرهنگی در طول همه‌گیری کووید-19 مورد تأکید قرار گرفت. بسیاری از افراد تحت مراقبت‌های اجتماعی، ارتباط خود را با جوامع فرهنگی یا مذهبی‌شان به طور خاص از دست دادند و برقراری ارتباط با افراد و رویدادهای با اهمیت فرهنگی برایشان دشوارتر شد.

مراقبت با حساسیت فرهنگی به هویت و پیشینه فرهنگی افرادی که از آنها مراقبت می شود، احترام می‌گذارد و با بهبود نتایج درمانی بیماران مرتبط است.

برای گنجاندن فناوری‌های طراحی شده متناسب با حساسیت‌های فرهنگی در خانه‌های سالمندان، تلاش‌های قابل توجهی صورت گرفته است. بعنوان مثال می‌توان به ربات‌ها اشاره نمود. این ربات‌ها برای کمک به سالمندان به شیوه‌ای متناسب با فرهنگ آنها طراحی شده‌اند. برای مثال، آنها با شروع مکالمه در مورد موضوعات مورد علاقه، پخش موسیقی یا کتاب‌های صوتی مورد علاقه فرد و حتی کمک به عبادات با یادآوری مراسم‌های مرتبط و محل وسایل مورد نیاز برای عبادت، به سالمندان یاری می‌رسانند.

در هسته اصلی، مراقبت با صلاحیت فرهنگی به منظور کاهش نابرابری‌های بهداشتی ناشی از تفاوت‌های نژادی، قومیتی، اجتماعی ـ اقتصادی و مذهبی تنظیم شده است. با توجه به اینکه هوش مصنوعی مولد در حال حاضر در برخی از مراکز مراقبت اجتماعی بزرگسالان برای وظایفی مانند نوشتن یادداشت جلسات و ایجاد برنامه‌های مراقبتی استفاده می‌شود، مهم است که پیامدهای اخلاقی و اجتماعی این رویکردهای جدید و همچنین چگونگی کمک این فناوری‌های نوین به کاهش برخی از فشارها بر مراقبت اجتماعی بزرگسالان را در نظر بگیریم.

مسئله چگونگی تنظیم هوش مصنوعی مولد در مراقبت‌های اجتماعی بزرگسالان توجه فزاینده‌ای را به خود جلب کرده است. برای مثال، در فوریه ۲۰۲۴، (مجموعه جلسات بحث و گفتگو) در مورد هوش مصنوعی در مراقبت‌های اجتماعی بزرگسالان در دانشگاه آکسفورد برگزار شد. در زمینه صلاحیت فرهنگی، نگرانی‌های خاصی وجود دارد، که یکی از آنها در نظر گرفتن ماهیت انعطاف‌پذیر و سیالی است که نه فقط خصوصیت فناوری هوش مصنوعی مولد است، بلکه خود فرهنگ نیز چنین ویژگی دارد که پیچیده و دائماً در حال تحول نیز هست. این امر می‌تواند به معنای نیاز به مشارکت کارشناسان و جوامع مرتبط در توسعه و ارزیابی مداوم ابزارهای هوش مصنوعی مناسب برای مراقبت اجتماعی بزرگسالان با حساسیت فرهنگی باشد.

مسئله مهم دیگری برای مراقبت اجتماعی با حساسیت فرهنگی، کاهش اثرات تبعیض‌های آشکار و پنهان شناخته‌شده در مدل‌های زبان بزرگ (Large Language Models) است که زیربنای هوش مصنوعی مولد به شمار می‌روند. تبعیض یا سوگیری می‌تواند تأثیرات منفی بر مراقبت داشته باشد. این امر به ویژه زمانی مشکل‌ساز می‌شود که سوگیری، بر نتایج تولید شده برای مراقبت اجتماعی تأثیر بگذارد و بالقوه منجر به نادیده گرفتن نیازهای مراقبتی گروه‌های خاصی از افراد یا ارائه پیشنهادات مراقبتی نامناسب از نظر فرهنگی شود.

همانطور که برخی از نویسندگان استدلال کرده‌اند، این سوگیری‌ها باید در تمام مراحل مفهوم‌پردازی، طراحی، توسعه، اعتبارسنجی، دسترسی و نظارت بر ابزارهای هوش مصنوعی در نظر گرفته شود. این ملاحظات نه تنها باید شامل سوگیری‌های مرتبط با طراحی الگوریتم و داده‌های تاریخی زیربنای آن باشد، بلکه باید تنوع و شمول را در مراحل توسعه و اعتبارسنجی نیز در بر گیرد. در حالی که این موضوعات مدت‌ها در حوزه پزشکی و مراقبت‌های بهداشتی مورد بررسی قرار گرفته‌اند، برای ایجاد رویکردهای نظارتی مناسب و حساس به فرهنگ، تحقیقات بیشتری در مورد این پدیده در زمینه مراقبت اجتماعی بزرگسالان مورد نیاز است.

هنگام بررسی معرفی هوش مصنوعی در محیط‌های مراقبت اجتماعی بزرگسالان، تأمل در مورد سوالات زیر می‌تواند به اطمینان از صلاحیت فرهنگی کمک کند:

• چگونه از هوش مصنوعی مولد برای تعیین اجزای یک برنامه مراقبتی با صلاحیت فرهنگی برای فردی که تحت مراقبت اجتماعی بزرگسالان است استفاده می‌شود؟

• سوگیری‌های پیش‌فرض موجود در مدل‌های زبان بزرگ (LLMs) که زیربنای ابزارهای هوش مصنوعی مولد هستند، چگونه بر برنامه‌های مراقبتی در حال توسعه تأثیر می‌گذارند؟

• تیم‌های مراقبت اجتماعی و مراقبان غیررسمی چگونه برای به‌کارگیری و مدیریت این فناوری‌ها به شیوه‌ای حساس به فرهنگ آماده می‌شوند؟

• داده‌های شخصی برای حمایت از مراقبت اجتماعی با حساسیت فرهنگی چگونه مورد استفاده قرار می‌گیرند؟

• آیا افراد تحت مراقبت اجتماعی و خانواده‌های آنها از نحوه به کارگیری هوش مصنوعی مولد، از جمله نحوه استفاده از داده‌های مربوط به هویت فرهنگی آنها در داخل و توسط ابزارهای هوش مصنوعی، آگاه هستند؟

• سطح اعتماد گروه‌های اجتماعی ـ فرهنگی مختلف به نوآوری‌های فناورانه چه تأثیری بر رویکرد افراد در قبال ادغام هوش مصنوعی مولد در مراقبت اجتماعی بزرگسالان دارد؟

تدوین خطوط راهنمای شفاف در زمینه مقررات و اخلاق می‌تواند به کاهش برخی از خطرات استفاده از ابزارهای هوش مصنوعی مولد برای ارائه مراقبت اجتماعی ایمن و باصلاحیت فرهنگی کمک کند.

مسئله کلیدی در تنظیم مقررات کاربردهای هوش مصنوعی به طور کلی و همچنین بطور خاص در بهره‌گیری از هوش مصنوعی برای مراقبت اجتماعی، نحوه مدیریت، ذخیره و استفاده از اطلاعات حساس است. مفهوم «اطلاعات حساس» می‌تواند در فرهنگ‌های مختلف بسیار متفاوت باشد. هنگامی که هوش مصنوعی مولد از ایجاد برنامه‌های مراقبتی پشتیبانی می‌کند، ابزارهای هوش مصنوعی به داده‌های حساس اشخاص مانند نژاد، قومیت یا ملیت دسترسی پیدا می‌کنند. این داده‌ها ممکن است بعداً توسط ابزار هوش مصنوعی برای مقاصدی فراتر از قصد اولیه، مانند یادگیری ماشینی، مورد استفاده قرار گیرند. تدوین خطوط راهنمای شفاف در زمینه مقررات و اخلاق می‌تواند به کاهش برخی از خطرات استفاده از ابزارهای هوش مصنوعی مولد برای ارائه مراقبت اجتماعی ایمن و باصلاحیت فرهنگی کمک کند. به طور همزمان، این دستورالعمل‌ها می‌توانند با اطمینان دادن به اعضای همه جوامع فرهنگی، اقلیت‌های قومی و گروه‌های مذهبی مبنی بر حفظ منافع آن‌ها، به افزایش اعتماد به چنین فناوری‌هایی کمک کنند.

با وجود اینکه هوش مصنوعی مولد نویدبخش حمایت از مراقبت اجتماعی بزرگسالان از جمله کمک به فرایندهای اداری و تصمیم‌گیری است، برای اطمینان از ارائه مراقبت اجتماعی با صلاحیت فرهنگی، همچنان نیاز به رسیدگی به موضوعاتی مانند سوگیری‌های هوش مصنوعی، حکمرانی و نظارت، و ماهیت در حال تغییرِ هر دو مسئله «فرهنگ» و «فناوری» وجود دارد. توجه به چنین دغدغه‌هایی برای استفاده ایمن از هوش مصنوعی مولد در مراقبت اجتماعی بزرگسالان ضروری خواهد بود.

---

درباره نویسنده:
زوزانا مارچینیاک-نوکی دکتری انسان‌شناسی اجتماعی از دانشگاه کمبریج که تحلیلگر سایت RAND اروپا است و بر تحقیق در زمینه نوآوری در مراقبت‌های بهداشتی تمرکز دارد.