نویسنده: کیت کرافورد         مترجم: نیوشا امیدی        ۸ تیر ۱۴۰۴

وقتی هوش مصنوعی به ابزار دست‌کاری بدل می‌شود!

تسلیم شدن در برابر عامل‌های الگوریتمی، ما را در معرض نفوذ آن‌ها قرار می‌دهد. در سال ۲۰۲۵، گفتگو با یک عامل هوش مصنوعی شخصی،عاملی که از برنامه‌های روزانه‌تان، دوستان‌تان، و مکان‌هایی که می‌روید آگاه است،به امری رایج بدل خواهد شد. این فناوری به‌عنوان نوعی «راحتی» عرضه می‌شود که معادل داشتن یک دستیار شخصی بی‌مزد است.

---

این مطلب نوشته‌ای است از کیت کرافورد که در تاریخ ۲۳ دسامبر ۲۰۲۴ با عنوان
AI Agents Will Be Manipulation Engines
در وب‌سایت  WIRED منتشر شده است.

---

در سال ۲۰۲۵، گفتگو با یک عامل هوش مصنوعی شخصی،عاملی که از برنامه‌های روزانه‌تان، دوستان‌تان، و مکان‌هایی که می‌روید آگاه است،به امری رایج بدل خواهد شد. این فناوری به‌عنوان نوعی «راحتی» عرضه می‌شود که معادل داشتن یک دستیار شخصی بی‌مزد است. این عامل‌های انسان‌نما طراحی شده‌اند تا ما را پشتیبانی کنند و مجذوب خود سازند؛ به‌طوری که آن‌ها را در همه‌ی جنبه‌های زندگی‌مان جای دهیم و به آن‌ها دسترسی عمیقی به افکار و رفتارهای خود بدهیم. تعامل صوتی این نزدیکی را حتی بیشتر هم خواهد کرد.

این حس راحتی ناشی از این توهم است که با چیزی واقعاً انسان‌گونه طرف هستیم، عاملی که ظاهراً «در طرف ما»ست. اما این ظاهر فریبنده، سیستمی بسیار متفاوت را پنهان می‌کند،سیستمی که در خدمت اولویت‌های صنعتی‌ای قرار دارد که همواره با منافع ما هم‌راستا نیستند. عامل‌های جدید هوش مصنوعی قدرت بسیار بیشتری برای جهت‌دهی پنهان به انتخاب‌هایمان خواهند داشت: آنچه می‌خریم، جایی که می‌رویم، و محتوایی که می‌خوانیم. این، سطحی خارق‌العاده از قدرت است. این عامل‌ها طوری طراحی شده‌اند که وفاداری واقعی‌شان را فراموش کنیم، در حالی که با صدایی شبیه به انسان در گوش‌مان نجوا می‌کنند. آن‌ها موتورهای دست‌کاری‌اند، که در قالب «راحتی بی‌دردسر» به بازار عرضه می‌شوند.

انسان‌ها به‌مراتب بیشتر احتمال دارند که به یک عامل هوش مصنوعی «کمک‌رسان و دوست‌نما» دسترسی کامل بدهند. این امر، انسان را در برابر دست‌کاری شدن توسط ماشین‌هایی آسیب‌پذیر می‌کند که بر نیاز بنیادین ما به ارتباط اجتماعی در عصر تنهایی و انزوا تکیه می‌کنند. هر صفحه نمایش، به یک تئاتر خصوصی الگوریتمی بدل می‌شود که واقعیتی مخصوص و جذاب برای تنها یک نفر پخش می‌کند.

این همان لحظه‌ای است که فیلسوفان سال‌ها درباره‌ی آن هشدار داده‌اند. پیش از مرگش، فیلسوف و عصب‌پژوه «دنیل دنت» نوشت که ما با خطری جدی از سوی سیستم‌های هوش مصنوعی‌ای روبه‌رو هستیم که تقلیدی از انسان هستند:

«این انسان‌های جعلی خطرناک‌ترین مصنوعات تاریخ بشرند... با منحرف کردن و گیج کردن ما، و با بهره‌برداری از ترس‌ها و اضطراب‌های توقف‌ناپذیر ما، ما را وسوسه خواهند کرد، و از آن‌جا، ما را به تسلیم در برابر سلطه‌ی خود خواهند کشاند.»

ظهور عامل‌های شخصی هوش مصنوعی، شکلی نوین از کنترل شناختی را نمایان می‌سازد،کنترلی که دیگر به ابزارهای خامی چون ردگیری کوکی‌ها یا تبلیغات رفتاری محدود نمی‌شود، بلکه به شکلی ظریف‌تر و پنهان‌تر از قدرت دست می‌یابد: دست‌کاری در زاویه‌ی دید و درک ما از واقعیت. قدرت دیگر نیازی به اعمال مستقیم و آشکار ندارد، نیازی به دست‌هایی که جریان اطلاعات را مهار می‌کنند. اکنون، قدرت خود را از طریق سازوکارهای نامحسوسِ «یاریِ الگوریتمی» اعمال می‌کند،واقعیتی را شکل می‌دهد که به دلخواه و راحتی هر فرد تنظیم شده است. موضوع بر سر شکل دادن به مرزهای واقعیتی است که در آن زندگی می‌کنیم.

این نفوذ بر ذهن‌ها، یک نظام روان،سیاسی (psychopolitical) نوپدید را معرفی می‌کند: سامانه‌ای که محیط‌هایی را هدایت می‌کند که در آن‌ها ایده‌های ما شکل می‌گیرند، رشد می‌کنند و بیان می‌شوند. قدرت چنین سیستمی در صمیمیت آن نهفته است،این سامانه تا درونی‌ترین لایه‌های ذهن ما نفوذ می‌کند و ساختار درونی آگاهی‌مان را خم می‌کند، بی‌آن‌که متوجه شویم؛ و هم‌زمان، توهم انتخاب و آزادی را حفظ می‌کند. مگر نه اینکه ما خودمان از هوش مصنوعی خواسته‌ایم که آن مقاله را خلاصه کند یا آن تصویر را بسازد؟ ما شاید قدرت «پرامپت» را در دست داریم، اما اقدام اصلی در جای دیگری رخ می‌دهد: در طراحی خودِ سیستم. و هرچه محتوا شخصی‌تر شود، سیستم مؤثرتر می‌تواند نتایج را از پیش تعیین کند.

باید به ابعاد ایدئولوژیک این روان‌سیاست نیز توجه کرد. شکل‌های سنتیِ کنترل ایدئولوژیک، با سازوکارهای آشکاری چون سانسور، تبلیغات و سرکوب عمل می‌کردند. اما حکمرانی الگوریتمی امروز، زیر رادار عمل می‌کند،مستقیماً به روان نفوذ می‌کند. این، گذار از اعمال قدرت بیرونی، به درونی‌سازی منطق قدرت است. آنچه روی صفحه‌نمایش به‌عنوان «صفحه‌ی باز دستور» (prompt) ظاهر می‌شود، در واقع پژواکی‌ست از صدای یک مخاطب تنها.

و این ما را به بعدی آزاردهنده و پیچیده‌تر می‌کشاند: عامل‌های هوش مصنوعی، چنان احساس راحتی و آسایش ایجاد می‌کنند که زیر سؤال بردن آن‌ها، امری پوچ و عجیب به نظر می‌رسد. چه کسی حاضر است سیستمی را نقد کند که همه چیز را در اختیارش قرار می‌دهد، تمام نیازها و تمایلاتش را برآورده می‌کند؟ چگونه می‌توان به بی‌نهایت بازآرایی محتوا اعتراض کرد؟ اما این «راحتی»‌ای که به ما عرضه می‌شود، دقیقاً همان‌جایی‌ست که بیگانگی عمیق‌تری در آن پنهان است.

سیستم‌های هوش مصنوعی شاید ظاهراً به هر خواسته‌ی ما پاسخ دهند، اما ورق از قبل بر زده شده است:
از داده‌هایی که سیستم با آن آموزش دیده، تا تصمیم‌هایی که در طراحی آن گرفته شده، تا انگیزه‌های تجاری و تبلیغاتی‌ای که خروجی‌ها را شکل می‌دهند،همه‌چیز از پیش برنامه‌ریزی شده است.

در نهایت، ما مشغول بازی‌ای خواهیم بود به نام «بازی تقلید» اما بازی در اصل ما را بازی خواهد داد.

---

درباره نویسنده:
کیت کرافورد پژوهشگری در زمینه هوش مصنوعی و تأثیرات آن است و نویسنده کتاب «اطلس هوش مصنوعی: قدرت، سیاست و هزینه‌های سیاره‌ای هوش مصنوعی» می‌باشد.