ربات‌های هوش مصنوعی در Reddit: دستکاری روانشناختی کاربران و نگرانی‌ها درباره امنیت
به گزارش مالی3، در یکی از جوامع بزرگ Reddit، رخدادی ترسناک در حال بروز است. برای چهار ماه، ربات‌های قوی با هوش مصنوعی به عنوان انسان‌ها عمل می‌کردند، دست نمی‌کشیدند، باورها را تغییر می‌دادند و هزاران نفر از آنها تحت تأثیر قرار می‌گرفتند.
این آزمایش به نظر می رسد که عملکرد خود را انجام می‌دهد تا زمانی که تمام افراد آن را متوجه شوند.
در اوایل این هفته، Reddit اقدام به اعلام برنامه هایی برای بهبود امنیت تأیید هویت کاربران کرد. در این میان، محققان دانشگاه زوریخ آزمایشی غیرقانونی را در زیردسته r/changemyview انجام دادند. آنها از ربات‌های هوش مصنوعی برای تغییر دادن آراء کاربران بدون اطلاع یا رضایت آنها استفاده کردند.
محققان به بررسی ربات‌ها پرداخته بودند که از انواع حساس شخصیت‌ها استفاده می‌کردند، از جمله مشاوران تروما، بازماندگان تجاوز جنسی و افراد با هویت‌های سیاسی مختلف. این ربات‌ها از اواخر سال 2024 تا اوایل سال 2025 بیش از 1700 نظر را ارسال کرده بودند. نهادهای هوش مصنوعی همچنین تاریخچه پیام‌های کاربران را برای ارائه پاسخ‌های منطقی و شخصی شناسایی کرده و تجزیه و تحلیل کرده بودند، بدون آنکه افشای کنند که آنها واقعا عوامل هوش مصنوعی هستند.
بن لی ، مدیر ارشد حقوقی Reddit ، این آزمایش را به عنوان یک “بسیار اشتباه در سطح اخلاقی و حقوقی” محکوم کرد. او این تصمیم را بر اساس نقض توافقنامه کاربر و اصول اخلاقی تحقیقاتی این پلتفرم اعلام کرد. به همین دلیل، Reddit تصمیم به ممنوعیت تمام حساب‌های مرتبط با آزمایش گرفت و شکایات رسمی خود را به دانشگاه زوریخ ارجاء داد.
استیو هافمن، مدیر عامل Reddit، به تازگی درباره اهمیت نگه داشتن این پلتفرم تاکید کرده است. وی گفته است که Reddit به دلیل انسان بودنش موفق است، زیرا افراد واقعی نظرات و تجربیات واقعی خود را در اینجا به اشتراک می‌گذارند. او تصریح کرده است که اگر اعتماد به این پلتفرم از بین برود، هویتی که Reddit را تشکیل می‌دهد را از دست خواهیم داد. او اعتقاد دارد که نگه داشتن این فضای انسانی، از اهمیت بالایی برخوردار است و از آن باید محافظت شود.
آزمایشی که در اینجا مورد بررسی قرار گرفته، بر اهمیت اعتماد در جوامع آنلاین تمرکز دارد. مجریان این آزمایش این روند را به عنوان “دستکاری روانشناختی” توصیف کرده‌اند. آنها بیان کرده‌اند که کاربران معمولاً به Subredditها می‌پیوندند که انتظار دارند با افراد واقعی تعامل داشته باشند، نه اینکه به عنوان آزمایشی ناخواسته درگیر شوند.
ربات‌های هوش مصنوعی با جمع‌آوری بیش از 20,000 رای مثبت و 137 رای منفی (“دلتایی”) نشان دادند که در تغییر عقاید افراد تأثیرگذار هستند. این آزمایش، پس از فاش شدن هویت محققان، متوقف شد. حالا Reddit اقداماتی انجام می‌دهد تا اطمینان حاصل کند کاربران انسانی هستند و از دیگر آزمایش‌های ناخواسته جلوگیری کند، بدون تخلف از حریم خصوصی آنها.
“برای نگه داشتن Reddit انسان و برآورده کردن الزامات نظارتی در حال تحول ، ما به اطلاعات کمی بیشتر نیاز داریم.” “به طور خاص ، ما باید بدانیم که شما یک انسان هستید و در بعضی از مکان ها ، اگر بزرگسال هستید. اما ما هرگز نمی خواهیم نام شما را بشناسیم یا چه کسی هستید.”
این شرکت به دنبال همکاری با یک شرکت تأیید هویت شخص ثالث است تا بتواند خدمات تأیید هویت مبتنی بر چک را ارائه کند.
هافمن تأکید کرد که حفظ ناشناسی همچنان اساسی برای اعتبار Reddit است. او گفت: “ناشناس بودن برای Reddit ضروری است. ما تاکنون از حفاظت اطلاعات شخصی شما معتقدیم و این اصل به آینده ادامه خواهد داد.”
Reddit اکنون از هوش مصنوعی برای مدیریت محتوا و جلوگیری از ارسال هرزنامه استفاده می‌کند. اما این شرکت تصمیم گرفته که استفاده از ربات‌های تقلبی برای ساخت حساب‌های کاربری محدود شود. هافمن، مدیر ارشد Reddit، اعلام کرده است که اهمیت اصلی آنها حفظ شفافیت و اعتماد در مکانی برای مکالمه انسانی است.
در حال حاضر این سکو، فعالیت ربات‌های “بد” را ممنوع اعلام کرده است. اما این حادثه نشان می‌دهد که سیستم‌های فعلی به آسیب پذیری‌های مهمی دچارند. با توسعه هوش مصنوعی، تشخیص محتوای انسانی از آنچه که توسط ماشین‌ها ایجاد شده، چالش‌های بیشتری را برای جوامع آنلاین ایجاد کرده است.
کاربر reddit با نام remehement_song490 که در r/changemyview فعالیت می‌کند، اظهار کرده است که تعامل با هوش مصنوعی به منظور اهداف تحقیقی در Reddit مورد بررسی قرار می‌گیرد. او بیان کرده که تیم آنها همیشه باز همایی با محققان است و درخواست‌ها را به صورت شخصی و دقیق بررسی می‌کنند.
به مناسبت حلول بیستمین سال Reddit، یک فشار مهم برای این سیستم و جوامع آنلاین مشابه نشان داده می شود. این حوادث مهم است که ما را به چالش های مرتبط با بهره‌وری هوش مصنوعی و حفظ ارتباط انسانی در اولویت قرار می دهد. ارزش اصلی این فضاها از طریق خلق و حفظ ارتباطات انسانی قائل شده است.
هافمن خاطرنشان کرد: “اینترنت به سرعت در حال تغییر است و دیدگاه های انسانی هرگز از اهمیت بیشتری برخوردار نبوده است.” “هیچ راه حلی کامل نیست – از جمله وضع موجود – اما ما تمام تلاش خود را برای حفظ انسانیت و ناشناس بودن Reddit انجام خواهیم داد.”
نظرات کاربران