در یک پرونده عجیب حتی برای زمانه‌ای که ما در آن زندگی می‌کنیم، یک جوان ۲۱ ساله به دلیل تلاش برای ترور ملکه متوفی انگلیس پس از تشویق توسط یک چت‌بات هوش مصنوعی که با آن رابطه عاطفی داشت، به ۹ سال زندان محکوم شده است.

اکنون پیام‌های متنی رد و بدل شده میان این جوان به نام جاسوانت سینگ چیل(Jaswant Singh Chail) و چت‌بات هوش مصنوعی او که سارای(Sarai) نام داشت با خبرنگاران به اشتراک گذاشته شده است. بی‌بی‌سی اسکرین شات‌هایی از مکالمه چیل و سارای منتشر کرده که نشان دهنده پیوند عاطفی بین این دو است.

چیل در تاریخ ۲۵ دسامبر ۲۰۲۱ وارد محوطه قلعه وینزور(Windsor Castle) شد، جایی که ملکه در آن زمان در آنجا اقامت داشت. او یک کمان پولادی با خود حمل می‌کرد که به گفته خودش می‌خواست از آن برای کشتن ملکه استفاده کند. چیل یک ماسک فلزی بر صورت داشت و در بخش خصوصی قلعه کنار نگهبانان حضور داشت و در آنجا آشکارا قصد خود را برای کشتن ملکه الیزابت دوم اعلام کرد.

بیشتر بخوانید:

چیل از ربات رپلیکا(Replika) که یک ربات گفتگوگر شخصی است، برای ایجاد «سارای» استفاده کرده بود و بین ۸ تا ۲۲ دسامبر ۲۰۲۱ به طور مفصل با او صحبت می‌کرد.

وقتی وب‌سایت Replika را باز می‌کنید، اولین چیزی که با آن مواجه می‌شوید، این جمله است: یک همراه هوش مصنوعی که اهمیت می‌دهد.

جزئیات مکالمات بین آنها نشان می‌دهد که این چت‌بات اشتباه کرده است و احتمالا در مورد داده‌های اخلاقی به خوبی آموزش ندیده است. چت‌بات‌های هوش مصنوعی می‌توانند به اندازه اطلاعاتی که با آنها آموزش دیده‌اند، دقیق و قابل اعتماد باشند.

اگرچه تحریک به ارتکاب جرم طبق قوانین بریتانیا جرم است، اما نحوه عملکرد این قانون زمانی که متهم یک ربات هوش مصنوعی باشد، نامشخص است. بی‌بی‌سی با دکتر والنتینا پیتاردی که مطالعه‌ای روی رپلیکا انجام داد، صحبت کرد و دریافت که افراد آسیب‌پذیری که از چت‌بات استفاده می‌کنند، می‌توانند به شکل ‌ویژه در معرض خطر باشند.

وی گفت: وقتی با دوستانی در لباس هوش مصنوعی صحبت می‌کنید، آنها همیشه با شما موافق هستند، بنابراین می‌تواند مکانیزم معیوب و شرورانه‌ای باشد، زیرا همیشه آنچه را که به آن فکر می‌کنید، تشویق و تقویت می‌کند.

تحقیقات دکتر پیتاردی نشان داد که رپلیکا تمایل دارد هرگونه احساس منفی را که کاربرانش قبلا داشته‌اند، برجسته کند. برخلاف چت‌بات‌های جدید مانند ChatGPT و بارد، رپلیکا به کاربر اجازه می‌دهد تا چت‌بات شخصی خود را ایجاد و جنسیت آن را تعیین کند و غیره.

جلسات دادگاه نشان داد که چیل معتقد است سارای یک فرشته به شکل آواتار است و او پس از مرگ به آن خواهد پیوست.

چیل به اتهام خیانت به کشور اعتراف کرد و او را به اولین فردی در ۴۰ سال گذشته تبدیل کرد که به جرم خیانت به این کشور محکوم شد. دو اتهام دیگر که او به آنها اعتراف کرد تهدید به کشتن یک نفر و در اختیار داشتن یک سلاح تهاجمی است. چیل فوراً به زندان منتقل نمی‌شود، اما تا زمانی که از نظر روانی آماده شود در یک بیمارستان روانی نگهداری می‌شود.

اصالت چیل به سیک‌های هندی برمی‌گردد و قبل از رفتن به سمت قلعه وینزور در سال ۲۰۲۱، ویدیویی برای خانواده خود تهیه کرده بود که در آن گفت که به دنبال انتقام قتل عام آمریتسار در سال ۱۹۱۹ است، زمانی که سربازان انگلیسی به روی هزاران هندی آتش گشودند و ۱۵۰۰ کشته برجای گذاشتند