Putin ölümcül robotlar yaptırabilirdi: AI geliştiricileri tehlikelere karşı uyarıyor

[Kenan]

Ev
siyaset
Putin ölümcül robotlar yaptırabilirdi: AI geliştiricileri tehlikelere karşı uyarıyor

Google’ın önde gelen AI geliştiricisi Geoffrey Hinton, birdenbire vicdansız yapay zeka konusunda vicdan azabı çeker ve en sert eleştirmen olur.


Torsten Harmsen

Yapay zekanın önde gelen geliştiricilerinden biri olan Geoffrey Hinton, şimdi de tehlikelere karşı uyarıda bulunuyor.AP/Nuh Berger


Yılın başından bu yana, metin yazabilen – ve bazen “verileri halüsinasyon gören” ve hatta var olmayan kaynakları düşünen yeni bir yapay zeka (AI) hakkında bir tartışma var. Buna ChatGPT denir. Pek çok kişi, diğer yapay zeka geliştirmelerinde olduğu gibi, yeni dil modelini bir oyuncak olarak görüyor.

Ancak giderek daha fazla uyarı duyuluyor. İngiliz bilgisayar bilimcisi Geoffrey Hinton geçtiğimiz günlerde New York Times’a “Bazen uzaylıların geldiğini ve insanların çok iyi İngilizce konuştukları için bunu fark etmediklerini düşünüyorum” dedi. On bir yıldır çalıştığı ABD şirketi Google’daki işinden ayrıldı.

ChatGPT çılgın! Hangi yapay zeka birlikte halüsinasyon görüyor?

• 
• 

Hinton herhangi bir AI geliştiricisi değildir. Hatta gazete ona AI’nın “Babası” diyor. Hinton, 1947’de Wimbledon’da doğdu. İnsan zihnini anlamak için deneysel psikoloji okudu. 1980’lerden beri sinir ağlarının nasıl öğrenilebileceğini araştırıyor.

AI gelişiminin “tehlikeli hızda” olduğu uyarısı


Cambridge, Edinburgh, Londra ve Toronto’da bir araştırmacı olarak, hata geri bildirimi olarak bilinenler de dahil olmak üzere makine öğrenimi için yöntemler geliştirdi. 2012’de girişimini ve iş gücünü 44 milyon dolara Google’a sattı. Öğrencilerinden biri, ChatGPT dil modelini geliştiren Open AI şirketinin kurucu ortağıdır.

Makineler insanların yerini aldığında: yapay zeka ne kadar tehlikeli?

• 
• 

Geoffrey Hinton, yapay zekanın riskleri hakkında bu kadar açık konuşarak Google’dan ayrılmasını haklı çıkarıyor. “Tehlikeli bir hızda” bir gelişme olduğu konusunda uyarıyor. İnternet sahte fotoğraflar, Haberlar ve metinlerle dolup taşabilir.

Uzun zamandır en kötüsünü durdurmak için güç kullanmadım


Güç arayanlar, savaşları kazanmak veya seçimleri etkilemek için yapay zekayı kullanabilir. “Putin’in Ukraynalıları öldürmek amacıyla hiper-akıllı robotlar yapmayacağını bir an bile düşünmeyin. Tereddüt etmezdi” diyor.

Yapay zeka politik midir? ChatGPT’nin “uyandığı” iddiaları hakkında

• 
• 

Eleştirmenler, Geoffrey Hinton’u yapay zekayı çok uzun süre kullanmakla ve tehlikeleri ortadan kaldırmakla suçluyor. Çünkü Hinton’un kendisinin de belirttiği gibi, basitçe “teknolojik olarak çekiciydi”. Uzun süre gücünü en kötüsünü durdurmak için kullanmadığı söyleniyor. Şimdi pişman görünüyor.