Alpkan Koç
Çin’in Chuzhou kentinde tarlasını işleten Wu isimli çiftçi, yaklaşık bir yıldır gübrelemeden ekim planlamasına kadar pek çok konuda bir yapay zeka uygulamasından destek alıyordu.
İlk başlarda temkinli yaklaşsa da zamanla aldığı olumlu sonuçlar üzerine sohbet robotuna güvenmeye başladı ve uzmanlara danışmayı bıraktı. Ancak bu güven, beklenmedik bir felaketle sonuçlandı.
Susam tarlasındaki yabani otlar ve zararlılar için yapay zekadan çözüm isteyen yaşlı çiftçiye, içerisinde “flufenacet” maddesi bulunan bir ilaç karışımı önerildi.
Tavsiye edilen tarım ilacını tarlasına uygulayan Wu, ertesi gün hayatının şokunu yaşadı. Yabani otlarla birlikte tüm susam fideleri de solup ölmeye başladı. Toplamda 10 hektarlık devasa ürün alanı tamamen yok oldu.
Yapay zekanın halüsinasyon riski hayatı etkiliyor
Uzmanlar, kullanılan etken maddenin susam gibi hassas tohumların gelişimini engellediğini ve bu ürün için kesinlikle uygun olmadığını belirtiyor.
Yapılan araştırmalar, yapay zeka sohbet robotlarının bazen son derece ikna edici ama tamamen yanlış ve uydurma bilgiler üretebildiğini gösteriyor.
Son dönemde sağlık ve tarım gibi kritik alanlarda yapay zeka önerileri yüzünden yaşanan mağduriyetler artış gösteriyor.
Kaynak
