Son yıllarda, otonom araç hayali bir bilim kurgu konusundan gerçekliğe geçti. Bununla birlikte, teknolojide her zamanki gibi, kavram gerçekle buluştuğunda, işler asla amaçlandığı gibi gitmez. Kazalarda ölümler oluyorsa ve bir taraf hak talep ediyorsa işler iyice karışıyor. Peki bu kazalardan kim sorumlu?
Tesla olaylarında, sürücüler, otopilot özelliğini sınırlı insan etkileşimi ile aracı tam olarak çalıştıracak şekilde ayarladılar ve otonom sistemin kapasitesinin yetersiz olduğu kanıtlandığında diğer araçlarla veya bariyerlerle bir dizi ölümcül çarpışmaya yol açtı. Uber olayında, araç bir yayaya çarparak onu öldürdü ve otonom bir aracın yol açtığı ilk yaya ölümüne neden oldu. Kuşkusuz bu teknoloji için erken günler olsa da, yasal konular için de erken günler.
Bu araçlar ölüme neden olduğunda sadece kim suçlu? Arabanın operatörü mi? Aracın üreticisi? Otonom sistemleri etkinleştiren yazılım veya donanım teknolojisi satıcıları mı? Yolcular? Yayalar? Bu sorumluluk sorusunu yanıtlamak, otonom teknolojiyi anlamak kadar zordur. Aşağıda Uber kazasında bir insanın ölümü ile sonuçlanan kazayı ele alarak sorumlu taraflar açısından bir değerlenme yapacağız.
Uber Otonom Araç Kazası Detayları
Bu özel olayda, 18 Mart 2018’de, Uber tarafından gerçek dünyadaki test sırasında direksiyon başında acil durum sürücüsü olan bir Uber tarafından çalıştırılan otonom bir araba, bir kişinin dahil olduğu, kaydedilen ilk yaya ölümü olduğuna inanılan olayda Elaine Herzberg’e çarptı ve onu öldürdü.
Kaza, yaya geçidinin dışında bisikletle yürürken yaya yola adım attığında saat 22.00 civarında meydana geldi. Ne Uber ne de sürücü, çok geç olana kadar yayayı fark etmedi ve arabanın çarpmasına neden oldu. Bu trajik olayın bir sonucu olarak Uber, ne olduğuna dair soruşturmalar yürütürken kendi kendine sürüş operasyonlarını hızla askıya aldı.
Kusurlu Olan İnsan mı Teknoloji mi?
Teknoloji sorunlarına dalmadan önce, insanların bu olay için burada temelde hatalı olup olmadığını belirlemeliyiz. O zaman bilinene göre, kişi yaya geçidi kullanmadan yola çıktı ve o sırada bisiklet sürüyordu, bu da potansiyel tehlikeleri belirlemekten sorumlu olan dahili sistemi karıştırabilirdi. Arabanın ve yedek sürücünün yayayı görebilmesi gerekirken, yayanın bu durumda sorumluluğu olabilir mi? Belki, ancak mantıklı insan sürücüler yola makul bir dikkat göstermiş ve büyük olasılıkla yayayı fark etmiş, en azından son dakikada bir çarpışmadan kaçınmak için yoldan sapıyor veya fren yapıyordu.
Aynı şekilde, belki de insan yedekleme sürücüsü burada hatalı. Sonuçta, araba araçta hiç insan olmadan çalışmıyordu. Bu durumda kişi oradaydı ama araç otonom moddaydı. Sürücü, otonom sistemdeki sorunlar göz önüne alındığında her an kontrolü ele almaya hazırdı. Bu tamamen özerk Seviye 5 işlemi değildir ama daha ziyade sınırlı bir özerklik, destek olarak hala insana güveniyor. Bu durumda, insan bu yedeklik görevini yerine getiremedi. Öyleyse insan sürücü buradaki sorumlu taraf mı? Belki de, ancak bir insanın çevresindekilerin tamamen farkında olmadan, tüm işi yapması için makineye güvenerek ve ardından bir ölüm kalım meselesini ele almak için kritik bir anda devreye girmesinin istenebileceğini varsaymak gerçekten mantıklı mı?
Dolayısıyla, dahil olan iki insanı dışlarsak, geriye kalan tek taraf teknoloji ve araç. Bu olayın bu kadar dikkat çekmesinin nedenlerinden biri, aracı çalıştıran yapay zekanın gerçek dünyayla başa çıkmaya hazır olup olmadığına dair sorulardan kaynaklanıyor.
Şu anda otomobiller için AI teknolojisi çok gelişmekte ve hala geliştirme aşamasındadır. Her şey ters gidebilir. Belki de makine öğrenimi modelleri yeterince gerçek dünya durumları üzerine tam olarak eğitilmemiştir. Belki de sensörler, geceleri yolun ortasında bisikletle yürüyen yayayı algılayacak kadar yetenekli değildi. Belki de görsel veya sensör teknolojisinin kendisinde, lenslerdeki aksaklıklar veya lekeler veya diğer algılama sorunları gibi hatalar vardı. Belki de aracın içindeki bilgisayar sisteminin hızlı hareket eden sahneyi işlemek için yeterli zamanı yoktu.
Uber Hatalı mı?
Uber, bu ölümcül kazadan önce sürücüsüz araçlarının erken testleriyle ilgili raporlar ve olaylar almıştı. Arizona’da, araçlarının bir kısmı küçük çamurluk bükücülerine ve teknolojinin olgunlaşmamış durumunu gösteren diğer trafik olaylarına karışmıştı. Belki de teknoloji hakkında bir sonuca varmadan önce, Uber sorumlu olabilir mi? Arizona, daha az katı düzenlemeler ve otonom araçlar için raporlama nedeniyle çok sayıda sürücüsüz otomobili kendine çekmiştir. Uber, arabalarını çok erken itiyor olabilir.
Sonuç Olarak Otonom Araç Kazalarında Kim Sorumlu?
Pek çok kişi, Uber’in otonom sürüş programını geçici olarak askıya aldığını, yapay zekanın araba kullanmasına izin verilmeyebileceğinin bir işareti olarak gördü. Ancak işler durmadı. Sadece o an durdular.
Trajik bir şekilde, bu olay muhtemelen otonom arabaların geliştirilmesinde sadece bir öğrenme adımı olacak. Bu otonom araçlar yaygın bir şekilde benimsenmeden önce, belki de buna benzer daha fazla olay meydana gelecektir. Muhtemelen daha fazla otonom araç kazaları ve ölümleri olacak. Kendi kendine giden arabaların geleceği için düşünecek çok şey var. Kanunlar, düzenlemeler ve gelişme, eyaletler ve ülkeler arasında büyük farklılıklar gösterir. Otonom araçları gerçekten gerçeğe dönüştürmek istiyorsak, tartışmanın devam etmesi gerekecek.