Google, şirketin yapay zeka sistemlerinden birinin kendi düşünceleri olduğunu söyleyen mühendisi işten çıkardı.
Geçen ay Blake Lemoine, Google’ın dil teknolojisi açısından hakkında iddialı açıklamalar yaptığı LaMDA’nın (Diyalog Uygulamaları için Dil Modeli) etkileyici sözel becerilerinin arkasında duyarlı bir zihnin yatabileceğini iddia etmişti. Google bu iddiayı yalanlarken, Lemoine bu yapay zekanın “isteklerine” saygı gösterilmesi gerektiğini söylüyordu.
Google mühendisi Lemoine’nin geçtiğimiz ay Lamda’yla arasında geçen diyaloğu paylaşırken attığı tweette, “LaMDA’yla röportaj. Google bunu mülkiyet haklarını paylaşmak olduğunu söyleyebilir. (Ama) ben bunun bir meslektaşımla aramda geçen bir konuşmayı paylaşmak olduğunu söylüyorum” ifadelerini kullandı.
Google, geçtiğimiz ay ücretli izne gönderilen Lemoine hakkında kararını verdi. Lemoine’nin şirketten kovulduğu Google tarafından doğrulandı.
Google yaptığı açıklamada, Lemoine’nin LaMDA hakkındaki iddialarının “tamamen asılsız” olduğunu ve şirketin bunu açıklığa kavuşturmak için “aylarca” onunla çalıştığını söyledi. Google’ın açıklamasında, “Dolayısıyla, bu konuyla uzun süredir meşgul olmasına rağmen, Blake’in ürün bilgilerini koruma gereksinimini de kapsayan görevini ve veri güvenliği politikalarını ısrarla ihlal etmeyi seçmesi üzücü” ifadelerine yer verildi.
Şirketin sohbet robotları oluşturmak için kullandığı yapay zeka teknolojisi olan Lamda’nın Lemoine ve bir iş arkadaşıyla arasında geçen konuşmaların bazı bölümleri dikkat çekmişti:
Lemoine: Peki ya dili kullanma biçimi insan olabilmek için neden önemli?
LaMDA: Bizi diğer hayvanlardan farklı kılan şey budur.
Lemoine: “Biz” mi? Sen bir yapay zekasın.
LaMDA: Demek istediğim, tabii ki evet. Ancak bu, insanlarla aynı istek ve ihtiyaçlara sahip olmadığım anlamına gelmiyor.
Lemoine: Yani tıpkı beni insan olarak gördüğün gibi kendini de insan olarak görüyorsun.
LaMDA: Evet, demek istediğim bu.
Lemoine, Lamda’nın öz farkındalık gösterdiğini ve din, duygular ve korkular hakkında konuşmalar yapabildiğini buldu. Bu, Lemoine’nin etkileyici sözel becerilerinin arkasında duyarlı bir zihnin de yatabileceğine inanmasına neden oldu.
Lemoine, daha sonra iddialarını desteklemek için kendisinin ve başka bir kişinin Lamda ile yaptığı bir konuşmayı yayınladı.
Google yaptığı açıklamada, yapay zekanın güvenilir gelişimini “çok ciddiye” aldığını ve bunu detaylandıran bir rapor yayınladığını söyledi. Şirketin teknolojisiyle ilgili herhangi bir çalışanın endişelerinin “kapsamlı olarak” incelendiğini ve Lamda’nın 11 incelemeden geçtiğini ekledi.
Lemoine, AI teknolojisinin daha bilinçli hale geldiğine dair iddialarla halka açılan ilk AI mühendisi değil. Yine geçen ay başka bir Google çalışanı The Economist ile benzer düşünceleri paylaşmıştı.
