Yapay Zeka ile Hareket Eden Bilgisayar ve Robotların Yasal Durumu

Temmuz 13, 2020

Yapay zeka en yalın tanımıyla, bir bilgisayarın veya bilgisayar kontrolündeki bir robotun çeşitli eylemleri, zekaya sahip canlılara benzer şekilde yerine getirme kabiliyetidir. Tanımından da anlaşılacağı üzere belirli bir karar alma ve eyleme geçme kabiliyeti bulunan yapay zeka teknolojisinin varlığı halinde çeşitli soruların akla gelmesi oldukça doğaldır. Yakın geçmişten günümüze gelen süreçte yapay zeka ve robotik mekanizmaların geliştirilmesi ile birlikte pek çok farklı konuda hukuki problematikler ortaya çıkmıştır. Bu konuda her geçen gün yeni sorular sorulmakta olup ve bu sorulara yönelik cevap arayışları insanları yeni uygulamalara yönlendirmektedir.

Yapay zeka teknolojisinin gündelik hayatın vazgeçilmez bir parçası olduğu bir gerçektir. Bu vazgeçilmezlik, yapay zekanın insanlara uymasından çok insanların yapay zeka teknolojisine uyarak hayatlarını şekillendirmesinin bir sonucudur. Bunun sebebi yapay zeka teknolojisinin gündelik hayatımızın neredeyse her alanında kendisine yer edinmiş olmasıdır. Sağlık hizmetlerinden eğitim alanına; savunma sanayisinden lojistik ve ticari alanlara kadar her yerde yapay zeka teknolojisine başvurulmaktadır. Bunun en önemli sebepleri arasında maliyetlerin düşmesi ve kaynakların en optimize şekilde kullanılması imkanının oluşması bulunmaktadır.

  • Yapay Zeka ve Robotların Yasalar Karşısındaki Durumları

Konuya ilişkin tartışmaların merkezinde, hayatımıza bu denli karışmış olan yapay zeka ve robotların hukuki statü ve sorumluluklarının belirlenmesi bulunmaktadır. Öncelikle yapay zeka ve robot teknolojilerine yönelik kapsayıcı bir hukuki düzenleme henüz bulunmamaktadır. Bunun nedeni olarak hukuk sistemindeki yeniden yapılanmaların teknolojik ilerlemelerin hızının gerisinde kalıyor olması gösterilebilir ki; bu durum aslında oldukça doğaldır. Zira teknolojik gelişmelerin diğer sektörlerdeki gelişmelere oranla eksponansiyel bir artış hızına sahip olduğu ortadadır.

Yapay zeka ve robotların yasal durumu ve sorumlulukları belirlenirken öncelikle, bu nevi teknolojiye sahip mekanizmaların nasıl hareket ettikleri ve karar aldıkları üzerinde durulmalıdır. Yapay zeka çalışmasında verilerin işlenmesi ve değerlendirilmesi; yapay zeka algoritmalarının geliştirilmesi gibi durumlar söz konusudur. Yapay zekaya sahip teknoloji ve robot mekanizmalarda veri oluşturulması da söz konusu olacaktır. Bu verilerin oluşturulması bunların toplanması ve işlenmesine bağlıdır. Daha sonrasında geliştirilen algoritmalar ile bu verileri değerlendirmekte ve karar almaktadır. Yani bir otonom hareket etme durumunun varlığından bahsedilebilir. Önemli olan, söz konusu teknolojiye sahip mekanizmaların, karar alma ve bu kararları uygulama inisiyatiflerinin olmasıdır. Yapay zekada ayrıca kendi kendine öğrenebilme ve öğrendiklerinin üstüne koyabilme kabiliyeti de söz konusudur.

Bakıldığında yapay zekanın bir insan gibi karar alıp hareket edebiliyor olduğu kolayca anlaşılabilir. Ve hatta bazı durumlarda insanlardan daha hızlı ve etkili kararlar aldığı da yadsınamaz bir gerçektir. Fakat üreticisi insan gibi, yetersiz algoritma ya da sistemsel hata vb. sebeplerden dolayı yapay zekaya sahip olan makine ve robotlar da kusurlu davranışlar sergileyebilir. Örnek vermek gerekirse, üretim bandında bir taşıma robotu yanlış paketleme yapabilir; dil çevirisi yapan programlar yanlış çeviri yapabilir; GPS sistemleri yanlış rota belirleyebilir, yapay zeka kullanan arabalar kendi kendine park ederken başka bir nesneye çarpıp hasara neden olabilir; ameliyat sırasında kullanılan bir robot yanlış müdahalede bulunabilir.

Her türlü kusur ve yanlış müdahalenin ciddi sorunlara sebep olabileceği bu alanda henüz tatmin edici bir regülasyonun bulunmaması günümüzde pek çok farklı soruna sebep olmaktadır. Önemli olan regülasyonlarla belirlenecek olan kusurdan sorumluluk hallerinin nasıl bir yaklaşımla belirleneceği ve hukuki statülerin nasıl paylaştırılacağıdır. Yapay zekaya sahip robotların sebep oldukları zararlardan sorumluluk nasıl belirlenecektir?

  • Yapay Zeka Nedeni ile Doğan Zararlardan Ötürü Hukuki Sorumluluk Kimdedir ?

Yapay zekaya sahip robotların bir eşya mı yoksa kişiliğe ya da inisiyatif alma yetisine sahip varlıklar olarak mı değerlendirileceği önemli bir başlangıç noktasıdır. Eşya statüsüne sahip oldukları takdirde, sorumluluklarından bahsedilemeyecektir. Fakat otonom özelliklere sahip karar alabilen, muhakeme yetisine sahip yapay zekaların sorumlulukları şüphesiz daha farklı olacaktır. İdrak ve muhakemenin tam olarak var olduğu robotlar için sorumluluğun varlığı söz konusu olmalıdır.

Sorumluluk tayininde doktrinde çeşitli fikirler ortaya konmaktadır. Bunlar arasında, yapay zeka algoritmasını geliştiren yazılım ve programcının sorumluluğunun olabileceği; üreticiye başvurulabileceği; yapay zeka kullanıcısının sorumluluğuna gidilebileceği gibi ihtimaller üzerinde durulmaktadır.

Ancak, unutulmamalıdır ki sorumluluk tespiti ve tayininde her olay kendi özelinde değerlendirilmelidir. Özellikle tamamen otonom olan makineler için sorumluluğun her daim üretici yazılımcı vb. aktörlere yükletilmesi de hakkaniyete uygun olmayacaktır.

Halen daha gündelik hayatta her ne kadar yer edinmiş olsalar da birey olarak konumlandırılabilmeleri için somut olarak bize temas etmeleri gerektiğinden yapay zeka özelinde kişilik yakıştırması robotlara yapılamamaktadır. İnsan gibi düşünüp hareket eden yapay zekaya sahip makinelerin sorumluluğuna gidilmesi söz konusu olabilmelidir; zira eylemlerinde inisiyatif sahipleri yine onlardan başkası değildir. Tüm bunların yanında mevzuatta robotlara, yapay zekalara yönelik bir kişilik tanımı yapılmamaktadır. Uygulamada yapay zekâ sistemlerinin kişi olarak kabul görmemesi, değerlendirilmemesi nedeniyle üreticiler, operatörler, mal sahipleri veya kullanıcıların ortaya çıkan zararlardan sorumlu tutulabileceği algısı kendine yer edinmiştir. Bunun sebebi, otonomluk ve kişilik kavramlarının birbirlerinden farklı değerlendirilebilir olmasıdır.

Her ne olursa olsun, yapay zekanın kişiliğe sahip olmadığı kabulü hakim olan hukuk sisteminde tam anlamıyla bir sorumluluk yüklenmesi şimdilik günümüz dünyasında mümkün gözükmemektedir. O halde tartışma, makale konusu yapay zeka sahibi robotların nasıl birer ürün oldukları noktasına doğru evrilmektedir. Hizmet mi yoksa ürün özelliği mi ön plandadır. Bu noktada da yine somut olaya bakılarak bir değerlendirme yapılması gerekmektedir. Hizmet sunumuna (İnsanların da yapabildiği) dayalı bir görev tanımı olduğu takdirde hizmet olduğu; rutin bir görevi doğrultusunda çalıştığı ve hizmetten çok somut yardım, değer üretilmesinde yardımcı olduğu durumların bazılarında ürün olduğu değerlendirmesi yapılabilir.

yapay-zeka-bilinc

Fakat artık daha da yaygınlaşan bir görüşe göre yapay zeka ve robotların her birinin birer Elektronik Kişilik sahibi olabilmesi mümkündür. Belli alanlarda robotların kişilik kazanımlarında tıpkı şirketlerde vb. yapılanmalarda görüldüğü gibi tüzel bir kişilik yüklenilmesi ve robotların kendilerinin sebep olduğu zarar durumlarında hem davacı hem de davalı sıfatına sahip olabilecekleri belirtilmektedir. (European Parliament Commission on Civil Law Rules on Robotics)

  • Türk Hukuku’na Göre Kusur ve Zarar Durumlarında Sorumluluğun Değerlendirilmesi

Yapay Zeka teknolojisine bir ürün sıfatı yüklendiğinden ve arada sözleşmesel bir ilişkinin varlığı söz konusu oldu takdirde ayıplı mal değerlendirilmesi yapılabileceği gibi, Türk Borçlar Kanunu’nun sözleşmeden kaynaklanan sorumluluk hükümlerine, sözleşme hükümlerinin uygulanamayacağı dolaylı ilişkilerde haksız fiil sorumluluğu hükümlerine gidilebileceği görüşleri doktrinde yer edinmektedir.

Bu noktada genel bir değerlendirme yapıldığında en uygun olan çözüm ortaya çıkan zararlardan sorumlulukta sözleşmenin taraflarından zarara sebep olanın sorumluluğuna sözleşme hukuku çerçevesinde gidilmesi ve eğer sözleşme tarafı olmayanlar zarar görmüş ise haksız fiil sorumluluğuna başvurulmasıdır.

  • Kusursuz Sorumluluk

Kusursuz sorumluluk kapsamında bir değerlendirme yapıldığı takdirde aslında bu tür bir sorumluluk anlayışının yapay zeka üreticisinin aleyhine bir anlayış olduğu söylenebilir. Bunun sebebi üreticinin sorumluluğunun kusura dayanmadan daha geniş bir kapsamda değerlendirilecek olmasıdır.  Bunun, yapay zeka kullanıcısı, tüketici açısından oldukça lehe bir anlayış olduğu kabul edilmelidir. Burada bahsedilen kusuruz sorumluluk hali 6098 sayılı Türk Borçlar Kanunu’nda bahsedilen bir haldir. Bu kusursuz sorumluluk halleri arasında “Adam Çalıştıranın Sorumluluğu” ve “Üreticinin Sorumluluğu” vb. durumlar bulunmaktadır. Kusur sorumluluğundan farklı olarak bu denli sorumluluk durumunda kusur şartı aranmaksızın bir sorumluluk hali mevcuttur.

Bu doğrultuda zarar gören yapay zeka mağduru zarar gördüğünü kanıtlamak zorunda olmayacaktır. Bu kusursuz sorumluluk halinin kabulü şöyle açıklanabilir: Üretici ile ürünü/hizmeti kullananlar arasında yüksek bir bilgi asimetrisi olacaktır. Bu bilgi asimetrisi teknolojik alanın bilgiye dayalı kapalı bir alan olmasından kaynaklanmaktadır. Teknik bilgi oldukça fazladır. Kusursuz sorumluluk görüşü kabul edildiği takdirde teknik bilgi birikimi bulunmayan bireyler zarar gördükleri hallerde kusurun varlığını ispat etme külfetinden kurtulmuş olacaklardır ki bu durum hukukun işletilmesi ve adaletin sağlanması açısından oldukça makul bir çözüm niteliği taşımaktadır.

  • Adam Çalıştıranın Sorumluluğu

Yapay zeka kullanımı durumunda zarar söz konusu olduğunda Türk Borçlar Kanunu’nun adam çalıştıranın sorumluluğu hükümlerine başvurulması da mümkün olabilmektedir. Bu noktada yapay zekanın bir işçi, çalışan olarak kabul edilmesi durumu söz konusudur. Yapay zekanın neden olduğu zararlardan işverene/çalıştırana gidilebilecektir. Konu kapsamında şu sorular sorulabilir: “Yapay zeka ile çalıştıran arasında sözleşmesel bir ilişki yokken sıfatlandırma nasıl yapılmalıdır? Rücu ilişkisi varlığını nasıl sürdürecektir?” Bu soruların cevapları farklı bir makalenin konusu olarak ele alınabilir. Fakat şimdilik, kişilik sıfatı kanun koyucu tarafından tanınmayan yapay zeka teknolojilerinin adam çalıştıranın sorumluluğu hükümleri ile bağlı olması hukuki açıdan etkili sonuçlar doğurmayacaktır.

  • Üreticinin Sorumluluğu

Üretim sektöründeki aktörlerin sorumluluğuna gidilmesi durumu da söz konusu olabilmektedir. Yapay zeka üreticisi hatalı üretim sebebi ile sağlık ile ilgili veya ekonomik açıdan çeşitli zararlara sebep olmuş ise bu zararlardan sorumlu tutulabilir. Bu noktada üretilmiş olan ürünün ayıplı olması da sorumluluktan bahsedilmesi için yeterli kabul edilmektedir.

Üreticinin sorumluluğuna gidilmesi yine yapay zeka kullanıcılarını korumak için vardır. Zira yapay zeka yukarıda da değinildiği üzere kullanıcı açısından bilgi asimetrisinin yüksek olduğu ve müdahale imkanın kısıtlı olduğu bir alandır. Fakat burada otonomluk durumunun henüz hukuk sistemi tarafından tam olarak benimsenmemesinden kaynaklanan bir sorumluluk anlayışının var olduğu söylenebilir. Ancak, otonomluk sınırlarının belirlenebildiği, algoritmanın yazılması aşamasında neden sonuç ilişkisinin kurulabileceği noktalarda üreticinin sorumluluğuna gidilebilmesi en uygun çözümlerden biri olarak karşımıza çıkmaktadır.

  • Kusur Sorumluluğu

Kusur, Hukuk sistemi ve ahlâki düzlemde kınanabilir bir davranış biçimi olarak tanımlanabilir. Kusur, kusur sorumluluğunun en temel ögesidir. Anlaşılacağı üzere kusur, kınanabilir nitelikte olan hoş görülmeyen bir davranış biçimidir. 6098 sayılı Türk Borçlar Kanunu’nda kusurun türlerinin sayılmamıştır. Kusurun sonucunda zarar şartının da var olması halinde tazminata hükmedilmesi gerektiği fikri tazminat hukukunun temel algı ve kabullerinden biri olarak görülmektedir. Yani, kastın ya da ihmalin varlığında karar mercii, kusur algısı kapsamında tazminat miktarını belirleyecektir.

Kusur sorumluluğu noktasında kusursuz sorumluluk hükümlerinden farklı olarak kusurun varlığı aranmaktadır. Yukarıda bahsi geçen haksız fiil sorumluluğunda çıkış noktası kusur sorumluluğudur. Hukuka aykırı fiil, eylem ve netice arasındaki illiyet bağı ve kusurun varlığı, bu sorumluluğun unsurları arasında bulunur. Zarar görenin, zarar verenin kusurlu davranışı sonucunda zarar gördüğünü kanıtlaması gerekmektedir. Belki günümüz için çok erken bir kabul olarak gözükse de ileride yapay zekaların daha etkin ve bağımsız olarak varlıklarını sürdürdükleri senaryolarda üreticinin kusursuz sorumluluğundan çok kusur sorumluluğuna gidilmesi daha mümkün olabilecektir. Ve hatta kusur sorumluluğunun yapay zeka ve robotlar için de konuşulması mümkün olabilecektir.

Fakat unutulmamalıdır ki, kusur çoğu zaman insanların dahi anlamlandırmakta güçlük çektiği ya da üstlenmekten kaçındığı bir kavramdır. Robotların, yukarıda bahsi geçen türden bir kusur algısına sahip olmaları ve bu durumu üstlenebilmeleri mümkün müdür? Kusura dayalı bir robot hareketi olabilir mi? Robotların kusuru ancak onların inisiyatif aldıkları durumlarda geçerli olabilir. Zira kusur, kast veya ihmal hallerinde var olabilen, karar alma ve harekete geçme durumlarında ortaya çıkabilen bir olgudur. Eğer robotların kusurlarından bahsediliyorsa onların öz bilinç ve bağımsız karar alabilme özelliklerini de kabul etmek gerekecektir. Her ne olursa olsun kusurun ne olduğunun robotlar tarafından anlaşılabilmesi robotlara, bağımsız düşünme ve eyleme geçme, kişilik kazanma, muhakeme yapma vb. insana has özelliklerinin işlenmesi gerekmektedir. Bu noktada robotların kusurlarından bahsedilebilecektir. Aksi takdirde, robotun inisiyatifi sınırlı ise ve bağımsız olma durumu söz konusu değil ise; robotlar sadece belirli seçenekler arasında seçim yapmaya programlanmış ise üreticinin kusur sorumluluğuna gidilebilecektir.

Seçme yetisi bağımsızlığın en önemli göstergelerinden biridir. Fakat seçim durumunun olmadığı, davranışların programlandığı ve sadece bu programlamalar kapsamında sistemin işlediği senaryolarda program hataları kapsamında gerçekleşen zararlardan üreticinin kusur sorumluluğuna gidilmesi mümkün olmalıdır. Fakat yine göz ardı edilmemesi gereken bir diğer gerçek robotların gün geçtikçe daha güçlü ve bağımsız yapılara bürünüyor olmasıdır. Bir gün robotların her eyleminden üreticinin kusursuz sorumluluk kapsamında sorumlu tutulması hakkaniyete uygun bile olmayabilecektir. Bunun sebebi ise gelecekte robotların, üreticilerinden bağımsız kendi özelliklerini geliştirip hareket edebilecek olma ihtimalleridir. Gelecekte belki de yalnızca, robotların yapılarında bulunan ve asla değiştirilemez, robotların inisiyatiflerinin olmadığı konularda üreticinin kusuruna gidilmesi söz konusu olabilecektir.

  • Sonuç

Yapay zeka kavramı tam olarak tanımlanmadıkça ve gündelik hayatımızda muhatap olarak yerini sağlamlaştırmadıkça hangi konumda yer alacağı, hangi sıfatı taşıyacağı ne gibi sorumluluklarının olacağı da belirlenemez. Ticari hayatta ve hizmet alanı gibi pek çok alanda kendine yer edinen yapay zeka ve robotların kişiliklerinin henüz tanınmaması, var oluşunun özünden önce gelmemesi, bir yaratılış amacının olması sebebiyle, her zaman üreticinin, yapımcının, yazılımcının ve hatta “sahibinin” sorumluluğuna gidilmesi durumu söz konusu olacak gibi gözükmektedir. Zira günümüzde kimi zaman bir ürün kimi zaman da bir hizmet niteliği taşıyan yapay zeka ve robotların yaratıcılarından bağımsız bir sorumluluklarının olması toplumun adalet duygusunu tatmin edici bir niteliği henüz taşımamaktadır. Bu sebeple, doğrudan yapay zekaya gitmek yerine yaratıcıların, sahiplerin ve kullanıcıların hukuki sorumluluklarına gidilmesi pratikte daha verimli ve sağlıklı sonuçlar doğuracaktır. Bu hukuki sorumluluklar arasında yeri geldiğinde kusursuz sorumluluk yeri geldiğinde kusur sorumluluğu hükümlerine başvurulup tazminat taleplerinde bulunulabilir. Hukuki sorumluluk üretim var olduğu sürece olacaktır denilebilir. Taraflar arasında kurulacak sözleşmelerde sorumlulukların olabildiğince detaylı bir şekilde paylaştırılması, bilgi asimetrisi sonucu ortaya çıkabilecek problemlerde kanun koyucunun regülasyonlarına başvurulması ve yapay zekanın hukuki statüsünün yeniden şekillendirilmesi ihtiyaçları gelecekte daha da sık gündeme gelecektir.

Ünlü bilim kurgu yazarı Isaac Asimov’un 3 Robot Yasası aslında yapay zeka ve robotların geleceği, toplumdaki konumlarının ne olabileceği ve ayrıca hangi kurallarla karşılaşabilecekleri üzerine çok yerinde felsefi bir tespit yapmaktadır.

“Birinci Yasa: Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.

İkinci Yasa: Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.

Üçüncü Yasa: Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.”

Bu doğrultuda makaleyi, yapay zeka ve robotların kişilikleri var olduğu ve Kanun Koyucu tarafından tanındıkları noktada hala ürün olarak kalabilmeleri mümkün olacak mıdır? Hukuki olarak hak ve sorumlulukları neler olacaktır? Soruları ile bitirmek uygun olacaktır.

Av. Eren Evren                                                                                                                                          Stj. Av. Can Hakan