چت‌بات تجاری شهر نیویورک کاربران را به قانون‌شکنی ترغیب می‌کند_کویر دانش

چت‌بات هوش مصنوعی نیویورک در حال اراعه‌ی اطلاعات نادرست است و حتی بعضی اوقات‌اوقات، کاربران را به انجام عمل های غیرقانونی ترغیب می‌کند. این چت‌بات به کسب‌و‌کارها پشتیبانی می‌کند که به اطلاعات مهم دسترسی داشته باشند.

گزارش تازه The Markup که با همکاری دو مؤسسه‌ی غیرانتفاعی Documented و The City تهیه شده، حاوی مثالهای بسیاری از جواب‌های نادرست چت‌بات نیویورک به سؤالات مربوط به سیاست‌های مسکن، حقوق کارگری و دیگر موضوعات است.

اریک آدامز، شهردار نیویورک، چت‌بات این شهر را سال قبل به‌گفتن بخشی از پورتال MyCity معارفه کرد. پورتال مذکور در مارس ۲۰۲۳ (اسفند ۱۴۰۱ و فروردین ۱۴۰۲) به‌گفتن مرکزی واحد برای اراعه‌ی خدمات و مزایای شهری تشکیل شد.

چت‌بات نیویورک مبتنی‌بر پلتفرم آژور مایکروسافت است و برای صاحبان مشاغل طراحی گزینه‌ی مناسبی به‌حساب می‌آید. سرویس مذکور به‌گفتن منبعی برای کسب اطلاعات قابل‌ مطمعن تبلیغ شد که داده‌هایش را به‌طور مستقیم از وب‌سایت‌های دولتی نیویورک به‌دست می‌آورد.

چت‌بات نیویورک فعلاً در مرحله‌ی آزمایشی قرار دارد و در قوانین سلب مسؤلیت آن اشاره شده که احتمالا بعضی اوقات‌اوقات محتوای نادرست، زیان اور یا مغرضانه اراعه دهد. مطابق نتایح آزمایش‌ها، چت‌بات نیویورک چندین دفعه و چندین دفعه اطلاعات نادرست اراعه داده است.

چت‌بات نیویورک درمورد این که آیا کارفرمایان می‌توانند انعام کارگرانشان را تصاحب کنند، آیا مشاغل باید درمورد تغییرات و برنامه‌ریزی‌ها به مشاغل خبر دهند و چند سؤال دیگر جواب نادرست داد. یکی از کارشناسان مسکن، چت‌بات مذکور را از نظر اراعه‌ی اطلاعات نادرست در بدترین حالت ممکن، خطرناک توصیف کرد.

لزلی براون، سخنگو دفتر فناوری و نوآوری نیویورک، با انتشار کردن بیانیه‌ای خبرداد: «چت‌بات تا بحال جواب‌های به‌موقع و دقیق به هزاران نفر اراعه داده است و ما هم چنان بر ترقی آن تمرکز می کنیم تا بتوانیم از مشاغل کوچک در سرتاسر شهر، بهتر حمایتکنیم.»