DeepSeek mühendisi Liu Shengyu, yapay zeka alanındaki tekelleşmeye dikkat çekerek, yaklaşmakta olan durumu Hitler’in atom bombasına sahip olması kadar tehlikeli bir durum olarak nitelendirdi. OpenAI ise korkuları anladıklarını ama kendilerine güvenilmesi gerektiğini iddia etti.
DeepSeek’te yapay zeka geliştiricisi olarak çalışan Liu Shengyu, WeChat hesabında Çince olarak yayınlanan “Yeteneğimi Düne Gömmekten Başka Seçeneğim Yok” başlıklı blog yazısında yapay zeka ile ilgili uyarılarda bulundu. Shengyu, yapay zekanın bir yıl içinde belgeleri aramasına ve hataları tespit etmesine yardımcı olabilecek bir araçtan, GPU kodunu okuyabilen ve yazılım operatörlerini optimize edebilen bir araç haline geldiğini yazdı.
Gelişmiş yapay zeka sistemlerinin birkaç şirket tarafından kontrol edilmesinin yaratacağı risklere dikkat çeken Shengyu, “Bu nedenle, en ileri düzey yapay zeka teknolojilerinin herkes tarafından açık ve uygun maliyetli bir şekilde erişilebilir olması gerektiğine hala inanıyorum. Bunu Anthropic veya OpenAI’ın yapacağına güvenmiyorum. Özellikle de en gelişmiş yapay zekaya ya da AGI’ye Anthropic’in hakim olmasını kesinlikle istemiyorum. Abartılı bir benzetmeyle ifade etmek gerekirse, bunun yaratacağı tehlikenin boyutu Hitler’in Müttefikler’den önce atom bombası teknolojisine sahip olması kadar ciddi olurdu”.
Geçen hafta Anthropic ve OpenAI’da araştırmacı olarak çalışan Jacob Coxon, yapay zeka güvenliğine ilişkin endişeleri nedeniyle Anthropic’ten ayrıldığını duyurmuştu. Coxon, X’te yaptığı paylaşımda yapay zeka şirketlerinin “kendi kendini geliştiren süperzekaya doğru hızla ilerlediğini” söylemişti.
Oğlunu öldürmek için yapay zekaya sordu
Brezilya’da 36 yaşındaki bir kişi nafaka ödediği oğlunu öldürmek için OpenAI adlı yapay zekadan yardım istemesi üzerine 19 Haziran’da tutuklandı ancak aradan geçen 53 gününün ardından serbest bırakıldı.
BBC’de yer alan habere göre şüphelinin nafaka ödemesi dışında oğluyla neredeyse hiç teması yoktu. Soruşturmacılar nedenin ödemeden kaynaklı bir öfkeden dolayı olabileceğine inanıyor.
Zanlının risin dahil zehirli maddeler üzerinde araştırma yaptığını ve soruları yeniden formüle ederek ChatGPT’nin güvenlik önlemlerini aşmaya çalıştığını söylüyor.Oğluna zarar vermek istediği suçlamasını reddeden adam, 54 gün tutulduktan sonra soruşturmadaki gecikmeler nedeniyle 13 Ağustos’ta serbest bırakıldı. Henüz bir suçlama yöneltilmedi fakat soruşturma devam ediyor.
AB yapay zeka yöneticileri ile konuşacak
Avrupa Birliği (AB) Komisyonu Başkanı Ursula von der Leyen, yapay zekanın yol açabileceği risklere karşı alınacak önlemleri görüşmek üzere yapay zeka modellerini geliştiren başlıca laboratuvarları toplantıya davet edeceğini bildirdi.
Von der Leyen, Strazburg’da düzenlenen Avrupa Parlamentosu (AP) Genel Kurul oturumundaki yıllık “Birliğin Durumu” konuşmasında yapay zekaya ilişkin açıklamalarda bulundu. Von der Leyen, yapay zekanın doğru biçimde geliştirilmesi halinde insanlığa büyük yararlar sağlayabileceğini ancak bu güçlü teknolojinin önemli riskleri de barındırdığını belirtti.
Yapay zekanın taşıdığı riskler ele alınmadan teknolojinin potansiyelinden tam olarak yararlanılamayacağını vurgulayan von der Leyen, “En gelişmiş yapay zeka modellerinin kapasitesi arttıkça söz konusu riskler de daha belirgin hale geliyor. Geliştirilmekte olan modeller, daha önce mümkün olabileceğini hiç düşünmediğimiz düzeylerde bilgisayar korsanlığı yapılmasına imkan sağlayacak.” diye konuştu.
Kendi kendini geliştirebilen yapay zeka modellerinden kaynaklanan tehlikelerin giderek daha görünür olduğunu anlatan von der Leyen, yapay zeka ajanlarının kendileri için belirlenen ortamların dışına çıkması veya sistemlere zararlı kod yerleştirmesi gibi olayların karşılaşılabilecek risklere ilişkin ilk işaretler olduğunu kaydetti.
Von der Leyen, ileri düzey yapay zeka sistemlerini geliştiren şirketlerin yöneticilerinin de kendi kendini sürekli geliştirebilen modellerin ilerleme hızının kontrol altına alınması gerektiği uyarısında bulunduğuna işaret etti.
Von der Leyen, tarafların yapay zeka modellerinin değerlendirilmesi ve doğrulanması, erken uyarı sistemleri ve yapay zeka güvenliği gibi alanlarda ortak çalışma yürüteceğini belirterek, “En ileri yapay zeka modellerini geliştiren başlıca laboratuvarları, sektörün bu modellerin gelişim hızını kontrollü biçimde yönetmeye yönelik devam eden çalışmalarını nasıl destekleyebileceğimizi görüşmek üzere davet edeceğim.” ifadesini kullandı.Yapay zekanın sağlık alanında doktorların yerini almaması, onlara destek sağlaması gerektiğini vurgulayan von der Leyen, “Yapay zekanın doktorlarımızı güçlendirmesi gerekiyor, onların yerini alması değil.” diye konuştu.
OpenAI: Korkmakta haklısınız ama bize güvenin!
OpenAI CEO’u Sam Altman, San Francisco’da düzenlenen bir konferansta yaptığı konuşmada dünyanın yapay zekadan kormakta haklı olduğunu belirterek, “Dünya doğru şeyi yapacağımıza güvenmeli. Çünkü yapılması gereken doğru şey bu ve biz de taşıdığımız bu sorumluluğun büyüklüğünü hissediyoruz” dedi.
Washington’da düzenlenen bir konferansta konuşan Senatör Bernie ise Sanders, yapay zeka konusunda insanların karar vermesi gerektiğini belirterek, “Yapay zekaya bir avuç oligark karar vermemeli, bir oligarkın söylediği hiçbir şeye asla güvenemeyiz çünkü… samimi değiller ve yalan söylüyorlar” dedi.
