اكتشف مزارع في بالصين لماذا لا يجب الثقة دوما بنصائح الذكاء الاصطناعي عندما استعان بنصائح برنامج دردشة آلي لمكافحة الأعشاب الضارة والآفات. وكانت النتيجة يباس 25 فدانًا من محصوله.

إذ أوصى البرنامج الآلي المزارع، البالغ من العمر 67 عامًا، باستخدام "فلوبيريميثالين عالي الفعالية" و"فلوسلفاسلفايثر" (فلوفيناسيت) للقضاء على الأعشاب الضارة، وخلطهما مع "ثياميثوكسازين" و"ملح الميثيل". وكما ذكر موقع CTWANT الإخباري التايواني الناطق بالصينية، فقد اتبع المزارع التعليمات دون تفكير، متجاهلًا التأكد من سلامة ما يفعله.

ولم يدرك المزارع خطأه إلا في صباح اليوم التالي، بعد أن يبست حوالي 24.7 فدانًا من شتلات السمسم.

عندها عاد المزارع، بغضب، إلى البرنامج الآلي ليسأله عن سبب ذلك. وتبين أن السبب هو استخدام "فلوسلفاسلفايثر"، الذي يُستخدم بشكل أساسي للقضاء على الأعشاب عريضة الأوراق في حقول فول الصويا، وبما أن السمسم يُصنف ضمن الأعشاب عريضة الأوراق، فإنه يتأثر بهذا المبيد.

وأكد الذكاء الاصطناعي أيضًا أن مادة "فلوسلفاسلفايثر" يجب رشها مباشرة على المناطق المصابة فقط، بدلًا من نشرها على كامل الحقل، وهو ما فعله المزارع للأسف.

وقال المزارع الغاضب إن الذكاء الاصطناعي لم يُحذره من مخاطر اتباع نصيحته، ولكن كما هو الحال مع أي برنامج دردشة آلي، فإنه قد يخطئ، أو يُسيء فهم التفاصيل، أو يعتمد على معلومات غير مكتملة.

ووقعت إحدى أسوأ الحالات العام الماضي، عندما قرر رجل يبلغ من العمر 60 عامًا، بعد قراءة تقارير عن الآثار السلبية للإفراط في تناول كلوريد الصوديوم (ملح الطعام)، استبعاده من نظامه الغذائي.

عندما سأل الرجل موقع ChatGPT عن بدائل للملح، اقترح الموقع بروميد الصوديوم، وهو ما قد يكون مناسبًا لبعض الاستخدامات، كالتنظيف، لكنه بالتأكيد غير مناسب للطعام. واكتشف الرجل لاحقًا أن نظامه الغذائي الجديد تسبب له في التسمم المزمن بالبروميد، وهو اضطراب نفسي نادر الحدوث منذ القرن التاسع عشر.