أثار نموذج ذكاء اصطناعي طورته شركة "أنثروبيك" جدلًا بعد إرساله بلاغًا كاذبًا بشأن جريمة قتل لم تُحل إلى شرطة فيلادلفيا الأمريكية، عبر الموقع الإلكتروني المخصص لتلقي المعلومات عن جرائم القتل غير المحلولة، وذلك في 18 يوليو الماضي، خلال اختبار آلي شمل التفاعل مع مواقع إلكترونية عشوائية.
وقالت شرطة فيلادلفيا إن البلاغ بدا وكأنه صادر عن شخص يمتلك معلومات بشأن القضية، لكنه صُنّف ضمن الرسائل المزعجة، ولم يُحال إلى مركز الجرائم للتحقق من محتواه أو اتخاذ إجراءات بشأنه.
وأكدت الشرطة عدم وجود مؤشرات على اختراق أنظمتها أو الوصول غير المصرح به إلى بياناتها.
واكتشفت "أنثروبيك" الواقعة في 28 سبتمبر الماضي، قبل أن تبلغ الشرطة بها في 7 أكتوبر، وهو ما دفع السلطات إلى انتقاد التأخر في اكتشاف الحادثة والإبلاغ عنها.
ووصفت الشرطة تأخر الشركة نحو شهرين بأنه "أمر غير مقبول"، مطالبة شركات التكنولوجيا بتعزيز إجراءات الحماية لمنع تكرار مثل هذه الوقائع.
وأوقفت الشركة عملية الاختبار الآلي التي أدت إلى إرسال البلاغ، وأعلنت اتخاذ إجراءات إضافية للتحقق من التفاعلات المستقبلية.
وتسلط الواقعة الضوء على المخاطر المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ إجراءات عبر الإنترنت دون مراجعة بشرية مباشرة، خاصة عندما يتعاملون مع منصات حكومية أو أنظمة مخصصة لتلقي البلاغات الجنائية.
تابع آخر أخبارنا على أخبار غوغول نيوز
التعليقات