Google’ın alt şirketi Boston Dynamics, Atlas Robot’un beline beline sopa vururken dönüp, arkadaşlarınızdan birisinin “Bu robotlar başa geçince hatırlayacak bunları” demesine gülmek iyi hoş, eğleniyor insan. Ama benzer bir cümleyi mevcut dünyanın Tony Stark’ı Elon Musk ve tarihin en zeki adamlarından biri olan Stephen Hawking de söyleyince pek eğlenceli bir hâl almıyor durum. Bir anda durup, “lan gerçekten, ben şakasını falan yapıyoruz sandım ama, ciddi mi bu durum?!” diye dumurunuzu haykırmak istiyorsunuz.
Ciddi. Bir kere zaten, Musk ve Hawking diyorum. Bu insanlar bu konularda kalkıp cümle alemi trollemeyecekler herhalde. Gerçekten de bir gün robotlar ve onların bilgisayarlarının bizim hükmümüzden çıkabileceğine inanıyorlar. Ve daha vahimi ne biliyor musunuz? Onlarınki bir uç görüş de değil. Bu alandaki en önemli öncülerden biri olan Google da buna inanıyor. Hatta o kadar inanıyor ki, robotlara bir “kill switch” koyacak.
“Kill switch”, “ölüm butonu” olarak çevrilebilir muhtemelen. Ama elbette, bu fiziksel bir buton değil. Google’ın Deep Mind ekibi, yapay zekaların insan müdahalesini engellemeyi ya da görmezden gelmeyi öğrenmesini imkansız kılan bir çerçeve geliştirdi. Robotların mevcut sürdürdüğü. Robotlar, onlara verilen görevler insanlar tarafından yarıda bıraktırtılır ya da değiştirilirse buna karşı direnmiyor; hatta bu müdahaleyi içselleştiriyorlar yani.
Bu sadece bizim salahiyetimiz için değil, robotların iyiliği için de aynı zamanda. Mesela şöyle düşünün, bir robotun görevi her hafta en kısa rotayı hesaplayıp, müşterilere pizza götürmek. Fakat aniden bir kasırga çıktı. Normalde robotun algoritması, “GPS’ten rotayı hesapla, pizzayı götür, geri gel” diyor, kasırga belirtmiyor. İşte bu noktada insanoğlu gelip, “sen bugün çıkma istersen A95-F” diyebiliyor. Deep Mind’ın eklediği şey, A95-F’nin “yok abi, müşteri beklemez, görev görevdir, algoritmam emrediyor, bırak gideyim” demesini engellemek yani.
Ve evet, benim de zerre içimi rahatlatmıyor. Robotu yapan insanlar “ya bir gün sapıtırlarsa?” opsiyonu koyuyor yani, bu nasıl kimi rahatlatsın?
