ÖZET

Son yıllarda, hızla gelişmekte ve hemen bütün yaşam alanlarında kendine yer edinmekte olan yapay zekanın; oftalmoloji alanında kullanımıyla ilgili gelişmeleri ve olası uygulamaları, gerek oftalmoloji gerek tıbbi etik çerçevelerinde değerlendirerek ele almak. Yapay zeka uygulamalarının göz hastalıklarının tanısıyla ilgili çeşitli uygulamaları, kitap, dergi, arama motorları, basılı ve sosyal medya aracılığıyla tarandı. Kaynaklar çapraz kontrole tabi tutularak, bilgilerin sağlıklı olup olmadığı kontrol edildi.

Kimisi ABD İlaç ve Gıda Kurumu tarafından onay da almış bulunan yapay zeka algoritmalarının, göz hastalıkları alanında özellikle tanıya yönelik araştırmalarda kendine yer bulduğu saptandı.

Oftalmoloji alanında özellikle diyabetik retinopati, yaşa bağlı maküla dejenerasyonu, prematür retinopatisi konularında yapay zeka algoritmalarından yararlanılabileceğini kanıtlayan araştırmalar geliştirilmektedir. Bu algoritmalardan bazılarının onay aşamasına geldiği anlaşılmaktadır. Yapay zeka çalışmalarında gelinen nokta, bu teknolojinin halen önemli bir mesafe kat ettiğini göstermekte ve gelecek çalışmalar için umut vadetmektedir. Yöntemlerin, özellikle yetişmiş insan nüfusunun az ve hekime ulaşımın zor olduğu gelişmekte olan ülkelerde önlenebilir görme kayıplarının belirlenmesinde ve hekime yönlendirilmesinde etkili olacağı düşünülmektedir. Gelecekteki bazı yapay zeka sistemlerinin ahlaki/etik statüye sahip adaylar olabileceğini düşündüğümüzde, farklı etik konular ortaya çıkmaktadır. Ahlaki/etik durum ile ilgili sorular, uygulamalı etiğin bazı alanlarında önemlidir. Günümüz yapay zeka sistemlerinin bir ahlaki/etik statüye sahip olmadığı üzerinde anlaşmaya varılmış olduğu görülmekle birlikte, ahlaki/etik durumu belirleyen özelliklerin tam olarak ne olduğu ve ne olacağı da bilinmemektedir.

Yapay Zeka Nedir?

Yapay zeka, basitçe tarif etmek gerekirse, bir bilgisayarın insanlara özgü entelektüel zeka yapısını taklit edebilmesidir. Bu zeka yapısı içinde olayları belirli sebeplerle ilişkilendirebilmek, genelleme yapabilmek, tecrübelerden ders almak gibi özelliklerden bahsedilebilir.¹ Toplumda genel kanı olarak, bir konu hakkında sebep sunabilen, strateji geliştirebilen, durumlar hakkında yargılama yapabilen, öğrenme kabiliyeti olan cihazlarda zeka teriminden bahsedilir. Fakat bu zekanın düzeyi ve güvenilirliği ile ilgili tartışmalar sürmektedir.²

Makinelerin zekasını değerlendirmek üzerine birçok farklı teori sunulmuştur. Bu teorilerden en ünlüsü 1950’de İngiliz matematikçi, bilgisayar bilimcisi ve kriptolog Alan Turing tarafından ortaya atılmış olan “Turing Testi”dir. Bu teste göre değerlendirici pozisyonunda olan kişi, yanıtın kim tarafından verildiğini bilmeden bir bilgisayar ve bir insanın verdiği yanıtları kıyaslar ve hangisinin makine olduğunu tahmin eder. Eğer makine test boyunca verdiği cevaplarla değerlendiriciyi %30 oranında ikna edebilirse testi geçecektir. 2014 yılında Eugene Goostman adında bir program bu testi geçebilmiştir.³

Yapay Zeka Türleri

Yapay zeka, teknolojideki gelişmelere ve yapılan öngörülere göre üç başlık altında sınıflandırılmıştır:

1) Dar yapay zeka (Artificial narrow intelligence): Günümüzde yapay zeka olarak nitelendirilen yazılımların yaklaşık tümünün dahil olduğu dar yapay zeka, kendisi için tanımlanmış sınırlı bir alan içinde, insan zekasını taklit eder ve bu çerçeve içinde yanıt verir.

2) Genel yapay zeka (Artificial general intelligence): İnsanlarla aynı entelektüel kapasitede olup, teorik olarak bir insanın yapabileceği düzeydeki görevleri yerine getirebilmesi beklenen yapay zeka türüdür. İnsan düzeyinde yapay zeka olarak da adlandırılan bu türün; sebep sunmak, strateji geliştirmek, plan yapabilmek, öğrenme kapasitesine sahip olmak, bir dil vasıtasıyla iletişim kurabilmek ve belirli bir görev doğrultusunda tüm bunları sentezleyebilmek kabiliyetlerine sahip olması gerektiği yapay zeka ile ilgilenen araştırmacıların ortak kanısıdır.⁴

3) Süper yapay zeka (Artificial super intelligence): En zeki ve yetenekli insan beyninden daha üstün olacağı beklenmekte olup Stephen Hawking, Elon Musk gibi bilim ve teknolojiyle ilgili önde gelen isimlerin, üzerinde gelecek ile ilgili komplo teorilerini sundukları yapay zeka türüdür.

Yapay Zekanın Öğrenme Çeşitleri (Algoritmaları) ve Oftalmoloji

a) Makine Öğrenmesi (Machine Learning): Yapay zekanın oftalmoloji alanındaki çalışmalarda sık kullanılan alt sınıflarından biri olan makine öğrenmesi (machine learning) terimi ilk olarak 1959 yılında, yapay zekanın öncü isimlerinden olan mühendis Arthur Samuel tarafından ortaya atılmıştır. Bu terimi “makinelerin bilhassa programlanmadıkları sonuçları öğrenebilme kabiliyeti” olarak açıklamıştır.⁵

Makine öğrenmesi tekniğinde bilgisayara belirli miktarda veri girilerek bu veriler üzerinden bir algoritma oluşturmak ve bu algoritma ile cihazın tahminlerini geliştirmesi hedeflenir. Tahminlerini geliştirmesi için cihaza yüklenen veriler ile cihazın alıştırma yaptığı faz öğrenme fazıdır ve gözetimli öğrenme-gözetimsiz öğrenme olarak iki gruba ayrılır. Gözetimli öğrenmede yüklenen verilere etiketler tanımlanarak bilgisayara tanıtılırken gözetimsiz öğrenmede yüklenen veriler içinden cihaz kendi algoritmasını yaratır.

b) Derin öğrenme (Deep learning): Makine öğrenmesi tekniği geliştikçe ve girilen veriler arttıkça, tek katmanda işlem yaparak verileri tarayan bu teknikten farklı olarak, aynı anda birçok katmanda işlem yaparak bir grup makine öğrenmesi tekniğini aynı anda kullanan, tek seferde sonuca ulaşan daha gelişmiş bir tekniktir. Derin nöral ağlar kullanarak çok daha büyük kapasitede veri ile daha fazla sayıda alıştırma yapabilir ve her alıştırmasında kendini geliştirerek kendi algoritmasını yaratabilir.

Tıp Alanında Örneklerle Yapay Zeka

Günümüzde pek çok farklı sektörde yaygın olarak kullanılmakta olan yapay zeka uygulamalarının tıp alanında kullanımı da gün geçtikçe artmaktadır. İlaç ve görüntüleme sektörleri başta olmak üzere medikal birçok sektördeki dev firmaların bu konudaki yatırımları milyar dolarlarla ifade edilirken, akademik anlamda da yapay zeka yazılımları ile ilgili çalışmalar yoğun ilgi çekmektedir. Yapay zeka uygulamalarının tıbbın farklı alanlarındaki kullanımlarına dair çeşitli yayınlar bu uygulamaların kullanım alanlarının genişliğini gözler önüne serse de onay alan çalışmalar henüz sınırlı sayıdadır.

Tıp alanındaki yapay zeka uygulamalarına verilebilecek dikkat çekici örneklerden bazılarına değinecek olursak; 2016’da Google’ın DeepVariant adlı yapay zeka uygulamasının, en sık genetik varyasyon olan tek nükleotid polimorfizmini %99,9587 doğrulukta belirleyebildiği kanıtlanmış ve FDA’dan ödül almıştır.⁶

Yetişkinlerde el bileği kırıklarında kullanılmak üzere hastaların X-ray görüntülerini değerlendirerek çalışan OsteoDetect adlı uygulama 2018 yılında FDA onayı almıştır.⁷

Akciğer grafisi değerlendirerek tüberküloz tanısı koymak, deri lezyonu fotoğraflarından malign melanom şüphesi değerlendirmek, patoloji preparatlarına bakarak meme kanseri lenf nodu metastazı varlığını tespit etmekgibi konularda geliştirilen yapay zeka uygulamaları ve bunlarla ilgili yayınlar yapay zekanın gelecekteki kullanım alanlarına örnek teşkil etmektedir.^8,9,10,11 Öyle ki, Stanford Üniversitesi’nde geliştirilen radyoloji algoritması, pnömoni tanısında radyologlardan daha kesin tanılar koyabilmiştir.¹²

Oftalmolojide Yapay Zeka Ne Yapabilir?

Oftalmoloji; renkli fundus fotoğrafları, optik koherens tomografi (OKT), bilgisayarlı görme alanı (visual field-VF) gibi farklı dijital teknikler ile yapay zeka çalışmaları için uygun ve geniş veritabanına sahip bir alandır. Buna ek olarak dünyada artan ortalama yaşam süresi, önlenebilir görme kaybına sebep olan göz hastalıklarının artışını beraberinde getirmektedir.^13,14

Bu hastalıkların erken teşhisi ve tedavisi aşamasında, bilhassa hekime ulaşımın zor olduğu bölgelerde çözüm yolları aranmaktadır. Özellikle toplumda en yaygın görme kaybı sebepleri olan diyabetik retinopati (DR), yaşa bağlı maküla dejenerasyonu (YBMD), glokom ve prematüre retinopatisi (ROP) başlıkları ön planda olmak üzere birçok farklı göz hastalığı için yapay zeka uygulamaları oluşturulmaktadır.¹⁵

Yapay Zeka ve Diyabetik Retinopati

Diyabetik retinopati, dünya çapında hızla artan hasta sayısı nedeniyleoftalmoloji alanında yapay zekanın kullanımıyla ilgili en çok ilgi gören alandır. Yapay zeka yazılımı kullanan ilk FDA onaylı cihaz olan IDx-DR’de bu alanda geliştirilmiştir.¹⁶

IDx-DR, Topcon NW400 fundus kamerası kullanarak, hastaları retinopati seviyesine göre sınıflandırmaktadır. Fundus kamerası seçiminde ise kullanım kolaylığının ön plana alındığı belirtilmektedir. Fundus fotoğraflarını çeken operatörler daha önce fundus kamerası kullanmamış kişiler arasından seçilmiştir. Hastalar, Amerikan Oftalmoloji Akademisi Sınıflaması’na (Preferred Practice Patterns for Diabetic Retinopathy) göre hafif diyabetik retinopatiden ileri retinopatisi olanlar ve olmayanlar olarak ikiye ayrılarak, sonuçlara göre hastalara 12 ay sonra tekrar kontrol ya da yakın zamanda oftalmolojik muayene önerilmiştir. Çalışmaya 900 hasta katılmış ve çalışma sonucunda cihazın duyarlılığı %87,4 ve özgüllüğü %89,5 olarak bulunmuştur. FDA onayı sonrası cihaz 2018 yılında Iowa Üniversitesi’nde kullanılmaya başlanmıştır.¹⁶

IDx-DR, derin öğrenme uygulamaları kullanan bir yazılım kullanılarak geliştirilmiştir, buna benzer olarak fundus kamerası ve derin öğrenme yazılımı kullanan farklı çalışma örnekleri artmaktadır.^17,18,19,20 Derin öğrenme uygulamaları sayesinde veri tabanı yüz bini aşan yazılımlar geliştirilebilmektedir.^21,22

Fundus fotoğrafı üzerinden çalışılarak makine öğrenmesi uygulamaları kullanılan, OCT ile çalışılarak makine öğrenmesi kullanılanve OCT ile çalışılarak derin öğrenme uygulamaları kullanılan çalışma örnekleri bulunmaktadır.^{19,23,24,25,26,27} Bu çalışmalarda %100’e yakın duyarlılık ya da özgüllük oranları bildirilenler bulunmaktadır.^28,29

Yapay Zeka ve Yaşa Bağlı Maküla Dejenerasyonu

Diabetik retinopatide olduğu gibi, YBMD’de da erken tanı ve sınıflandırma amacıyla yapay zeka kullanılarak geliştirilen yazılımlar ile ilgili çalışmalar artmaktadır. Önceleri fundus fotoğrafı ve makine öğrenmesi kullanarak geliştirilen, veri tabanı boyutları 1000’den az olan çalışmalar yayınlanmıştır.^30,31,32 Daha sonra derin öğrenme teknolojisi kullanan yazılımlar ile veri tabanı boyutları artmış, yüksek duyarlılık ve özgüllük oranlarına ulaşılmıştır.^20,33,34

Ting ve ark.²⁰ 72.610 fundus fotoğrafını veri tabanı olarak kullanmış ve hastaları AREDS (Age-Related Eye Disease Study) Sınıflaması’na göre orta düzey ve üstü olanlar ve olmayanlar olarak sınıflandırmıştır. Çalışma sonucunda duyarlılık %93,2, özgüllük %88,2 olarak belirtilmiştir.

Burlina ve ark.³³ 4.613 hastanın 130.000 görüntüsünü kullanarak oluşturdukları yazılım ile hastaları sınıflandırmış, orta ve ileri düzey YBMD hastalarını belirlemede %91,6 doğruluk oranı belirtmişlerdir.

Grassmann ve ark.’da³⁴ 3.654 hastanın 120.656 fundus fotoğrafını tarayarak oluşturdukları algoritmalarını AREDS veri tabanına karşı test etmişler ve hastalığı erken ve geç dönem olarak sınıflandırmada %84,2 doğruluk oranı; sağlıklı hastaları belirlemekte ise %94,3 doğruluk oranı belirtmişlerdir.

Yapay Zeka ve Glokom

Glokom, dünya çapında en yaygın görme kaybı sebeplerinden olup, erken tanı ve tedavisinin önemi nedeniyle yapay zeka araştırmacılarının dikkatini yoğun olarak çeken bir diğer konudur.¹⁵

Fundus fotoğrafları üzerinden glokomatöz optik nöron hasarını belirlemek üzere makine öğrenmesi yöntemini kullanan çalışmalar yayınlanmıştır.^35,36,37 Bu çalışmalardan sonra derin öğrenme teknolojisi kullanan ve veri tabanı boyutları makine öğrenmesi kullanılan çalışmalara göre oldukça büyük olan çalışmalar üzerine yoğunlaşılmıştır.^20,38,39 Ting ve ark.’nın²⁰ veri tabanında 125.189 fundus fotoğrafını kullandıkları çalışmada duyarlılık %96,4, özgüllük %87,2 olarak belirtilmiştir.

Fundus fotoğrafları dışında glokom tanı ve takibinde kullanılan diğer görüntüleme tetkikleri ile ilgili çalışmalar yapılmaktadır. Bilgisayarlı görme alanı verileri ve OCT verilerikullanılarak hazırlanan yapay zeka uygulamalarının yanında, bu iki tetkik cihazından da veri alınarak değerlendirme yapabilen uygulama çalışmaları yayınlanmıştır.^{40,41,42,43,44,45}

Yapay Zeka ve Prematüre Retinopatisi

Prematüre retinopatisi, tüm dünyada çocukluk çağı görme kaybı nedenleri arasında önde gelmektedir ve farklı çalışmalarda %6-18 arasında oranlar belirtilmiştir.⁴⁶ ETROP (Early Treatment for Retinopathy of Prematurity) çalışmasına göre erken tedavi görme keskinliğini arttırmakta önemlidir ve erken tedaviye rağmen, hastaların %9’unda kalıcı görme kaybı gelişmektedir.⁴⁷

ROP tanı ve tedavisinin hastanın sonuç görme keskinliği ve yaşam kalitesi üzerine etkisinin önemi bilinmesine rağmen, özellikle gelişmemiş ülkelerde ROP ile ilgilenen hekimlere ulaşmak zordur. Bunun bir sebebi de ROP takip ve tedavisinde, oftalmologlar için dahi uzun bir zaman ve eğitim süreci gerekliliği olması, bunun yanında yüksek malpraktis oranları ve dava açılması nedeniyle hekimlerin bu alandan uzaklaşmasıdır.^48,49 Bunlara ek olarak, ROP tanısında kullanılan zon, evre ve artı hastalık varlığı gibi parametreler, ROP ile ilgilenen uzmanlar arasında bile tanısal varyasyonlara yol açmaktadır.⁴⁸ Uzman hekime ulaşmaktaki güçlükler ve uzmanlar arası tanısal varyasyonlar, yapay zeka araştırmacılarını ROP konusunda çalışmaya yöneltmektedir.

Brown ve ark.’nın⁵⁰ RetCam fundus kamerasıyla çekilmiş 5.511 fundus görüntüsünü veri tabanı olarak kullandıkları derin öğrenme teknolojisi kullanan yazılımlarının, artı hastalık varlığını belirlemekte %93 duyarlılık ve %94 özgüllüğe sahip olarak belirtilmiştir.

Redd ve ark.’nın⁵¹ aynı derin öğrenme teknolojisi üzerine geliştirdikleri uygulamada ise yazılımın tip 1 ROP ve klinik olarak anlamlı ROP’yi belirlemekte sırasıyla 0,96 ve 0,91 eğri altı alan değerlerine sahip olduğu bildirilmiştir.

Oftalmolojide Diğer Uygulamalar

De Fouw ark.’nın⁵² Google’ın DeepMind adlı derin öğrenme teknolojisini kullanarak Moorfields Göz Hastanesi’nde yaptıkları çalışmanın verileri, yapay zekanın gelmiş olduğu seviyeyi çarpıcı bir şekilde göstermektedir.

Yapay zeka algoritması; kanama, sıvı gibi 10 farklı lezyon tanıtılarak 14.884 etiketlenmemiş OCT görüntüsünü kullanılarak eğitilmiştir ve 50’den fazla retina hastalığını ayırt edebilmektedir. Çalışmada Moorfields’a bağlı farklı merkezlerden 37 farklı OCT cihazından alınan veriler kullanılmış ve uygulamanın verileri, Moorfields’a bağlı dört oftalmolog ve dört optometristin kararları ile karşılaştırılmıştır. Cihazdan ve kişilerden OCT görüntülerini muayene ihtiyacına göre acil, kısmen acil, rutin muayene ve gözlem olarak sınıflandırmaları istenmiştir.

Çalışma sonucunda, cihazın hata oranı (%5,5), hastanenin en iyi iki retina uzmanı ile kıyaslanabilir düzeyde (%6,7 ve %6,8) ve diğer altı uzmandan anlamlı olarak daha iyi (%10 - %24,1) olarak belirtilmiştir. Özellikle acil olarak sınıflandırılan grup içinde cihazın hata yaptığı olgu olmadığı belirtilmektedir.⁵²

Tartışma

Yapay zeka çalışmalarında gelinen nokta, bu teknolojinin halen önemli bir yol aldığını göstermekte, gelecekte olası uygulamaların göz kırptığı rahatlıkla anlaşılmakta ve gelecek çalışmalar için umut vadetmektedir. Özellikle yetişmiş insan nüfusunun az olduğu, hekime ulaşımın zor olduğu gelişmekte olan ülkelerde önlenebilir görme kayıplarının belirlenmesinde ve hekime yönlendirilmesinde etkili olacağı düşünülmektedir.

Yapay zekanın kullanılabileceği tanı spektrumu ve klinik olası yararları konusunda çok geniş bir çalışma alanı bulunmaktadır. Yapılan çalışmalardakilere benzer teknolojilerle tıkayıcı damar hastalıkları, keratokonus, retinitis pigmentosa gibi farklı alanlarda farklı görüntüleme cihazları ile uygulamalar geliştirilebilir. Yalnızca hastalıkların taranması ya da tanı koymak dışında cerrahi alanda da hasta için ideal göz içi lensi belirlemek, cerrahi için risk tahmini yapmak gibi alanlarda hekimi yönlendirecek uygulamalar yapılabilir.

Yapay zekayı değerlendirmemiz gereken önemli bir başka alan “Etik açıdan olası” tehlikeleridir.

Yakın gelecekte, bir bankanın makine öğrenmesi algoritmaları kullanarak ev kredisi başvurularını değerlendirdiğini hayal edin. Reddedilen bir kişinin bankaya dava açtığını ve itiraz olarak ev kredileri başvurularında algoritmanın ırkçılık yaptığını söylediğini düşünün. Banka bunun imkansız olduğunu, çünkü algoritmanın başvuranların ırkından haberi olmadığını söyleyecektir. Aslında bankanın böyle bir sistemi kurmasının gerekçesi insani duyguların devreye girmesi gibi nahoş durumları ortadan kaldırmaktır. Fakat buna rağmen istatistikler, siyahi başvuranlar için bankanın onay oranının devamlı olarak düştüğünü söylesin. Birbirine eşit on adet başvuru sisteme sokulduğunda algoritmanın beyazların başvurularını kabul ederken siyahilerinkini reddetmektedir. Burada sizce neler olmaktadır? Bunun cevabını bulmak kolay olmayabilir. Eğer makine öğrenmesi algoritması karmaşık bir yapay sinir ağı üzerine oluşturulduysa ya da kontrollü evrimle üretilen genetik algoritmaya dayanıyorsa, bu durumda algoritmanın başvuranların ırkına göre niçin ve neye göre karar verdiğini anlamak imkansız olacaktır. Diğer bir taraftan, programcının incelemesine olanak vermesi açısından karar ağaçları ya da özel bilgisayar dilindeki ağlar çok daha şeffaftır. Bu durum denetçinin, örneğin başvuranların nerede doğduklarını ya da öncesinde çoğunlukla banliyö semtlerinde oturmalarını yani adreslerini temel alarak bu karara vardığını keşfetmesini sağlayabilir.

Yapay zeka algoritmaları, modern toplumda giderek daha büyük bir rol oynamaktadır. Ancak genellikle bu durumdan etkilenenler arka planda böyle bir şeyin varlığından haberdar bile değillerdir.

Gelecekteki bazı yapay zeka sistemlerinin ahlaki/etik statüye sahip adaylar olabileceğini düşündüğümüzde, farklı etik konular ortaya çıkmaktadır. Ahlaki/etik statüye sahip varlıklar ile olan ilişkiler tamamen bir rasyonalite meselesi değildir: Bizim de onlara belli şekillerde davranmak ve onlara kötü şekilde davranmaktan kaçınmak için ahlaki/etik sebeplerimiz vardır. Francis Kamm⁵³, amacımız için hizmet edecek olan ahlaki/etik statünün aşağıdaki tanımını önermiştir:

X, ahlaki statüye sahiptir; çünkü X kendi başına ahlaki önem taşır, kendisi için bir şeyler yapması için izin verilebilir/verilemez.

Ahlaki/etik durum ile ilgili sorular, uygulamalı etiğin bazı alanlarında önemlidir. Örneğin, kürtajın manevi olarak kabul edilebilirliğiyle ilgili uyuşmazlıklar genellikle embriyonun ahlaki/etik durumu ile ilgili anlaşmazlıklar üzerinde etkili olur. Hayvan deneyleri ve hayvanların gıda endüstrisindeki muameleleri ile ilgili tartışmalar, farklı hayvan türlerinin ahlaki/etik durumu hakkında sorular içermektedir. Son dönem Alzheimer hastaları gibi ciddi bunama hastalığına karşı yükümlülüklerimiz de ahlaki/etik durum sorularına bağlı olabilir.

Şu anki yapay zeka sistemlerinin ahlaki/etik bir statüye sahip olmadığı genel olarak kabul görmüştür. En azından programların kendileri söz konusu olduğu sürece bilgisayar programlarını istediğimiz gibi değiştirebilir, kopyalayabilir, sonlandırabilir, silebilir veya kullanabiliriz. Çağdaş yapay zeka sistemleri ile olan ilişkilerde bulunan ahlaki/etik kısıtlamalar, insanoğlunun kendisi gibi diğer varlıklara karşı tabi olduğumuz sorumluluklara dayanır. Ancak sistemlerin kendilerine karşı herhangi bir sorumluluğumuz yoktur.

Günümüz yapa zeka sistemlerinin ahlaki/etik bir statüye sahip olmadığı üzerinde anlaşmaya varılmış olduğu görülmekle birlikte, ahlaki/etik durumu belirleyen özelliklerin tam olarak ne olduğu ve ne olacağı bilinmemektedir. Bunun dışında, bebekler ya da şiddetli zihinsel hastalıklardan mustarip insanlar akıl kriterlerini karşılamamaktadır. Bazı otoriteler, akıl hastası insanların tam olarak bir ahlaki/etik statüye sahip olduğunu kabul etmemektedir.

İşler Karışıyor

Şimdi, bu tartışmaları geride bırakıp, duyum ve akıl kriterlerine odaklanalım. Ahlaki/etik statüye dair bu anlayış, bir yapay zeka sisteminin, duyum kapasitesine sahip olması durumunda, örneğin acıyı hissetme yeteneği gibi, ahlaki/etik statüye sahip olabileceğini önermektedir. Duyuma sahip bir yapay zeka sistemi, dil ve diğer yüksek bilişsel yeteneklerden yoksun olsa da, oyuncak bir hayvan veya bir bebek değildir. Daha çok, canlı bir hayvana benzemektedir. Yapmak zorunda kalmanızı gerektirecek güçlü ahlaki/etik gerekçeler olmadıkça, bir fareye acı vermek yanlıştır. Aynı durum, herhangi bir duyuma sahip yapay zeka sistemi için de geçerli olmalıdır.

Yapay zeka sistemi, duyum sistemine ek olarak, normal bir yetişkine benzer bir zekaya sahipse, o zaman insanoğlununkine eşdeğer tam bir ahlaki/etik statüye sahip olmalıdır. Bu ahlaki/etik değerlendirmenin altında yatan fikirlerden biri ayrımcılık yapılmama ilkesi olarak daha güçlü bir biçimde ifade edilebilir: Eğer iki varlık aynı işlevselliğe ve aynı bilinçli tecrübeye sahiplerse ve sadece özsel uygulamalarında fark varsa bu durumda aynı ahlaki/etik statüye sahip olurlar. Bu ilkeyi reddetmek, ırkçılığa benzer bir tutumu benimsemek demektir. Ten renginin farklı olması insanlık özünü etkilememektedir. Bu ilke, bir dijital bilgisayarın bilinçli olabileceğini veya insanla aynı işlevselliğe sahip olabileceğini iddia etmez. Ancak bu ilkenin söylediği şudur ki, bir varlığın silikondan mı yoksa karbondan mı olduğuna veya beyninin yarı iletkenleri mi yoksa nörotransmitterleri mi kullandığına bakmamalıyız.^54,55,56

İnsandan daha akıllı bir yapay zekanın yeteneklerini zihnimizde canlandırabilmemiz için üç metafor grubu belirlenmiştir:

Yapay zekalar yeni buluşlara imza atacak, çığır açan araştırma makaleleri yayınlayacak, borsada para kazanacak veya siyasi güç bloklarına yön verecektir.

esinlenen metaforlar: Moleküler nano teknoloji veya yıldızlar arası seyahat gibi, fütüristlerin insan medeniyetleri için genellikle bir yüzyıl veya bin yıl için öngördüğü durumları yapay zekalar gerçekleştirecektir.

c) İnsanlar ve diğer biyolojik organizmalar arasındaki beyin mimarisi farklılıklarından esinlenen metaforlar: Örneğin, Vinge⁵⁷: “Bir köpek zihnini çok yüksek hızda çalıştırdığımızı düşünün. Bin yıllık köpek yaşantısı herhangi bir insanın kavrayışına denk gelebilir miydi?” Bu durum şu anlama gelir: Bilişsel mimarideki değişiklikler, insanda da bulanmayan bir kavrayışın ortaya çıkmasını sağlayabilir. Kendimizi tarihsel metaforlarla kısıtlasak bile, insanüstü zeka düzeyinin, tam anlamıyla daha öncekilere benzemeyen yeni etik zorluklar ortaya çıkardığı açıktır. Kurzweil⁵⁸, “zekanın doğal olarak kontrolünün imkansız olduğunu” ve insanların herhangi bir önlem alma girişiminde bulunmasına rağmen akıllı varlıkların, bu tür engellerin üstesinden kolayca gelebilecek zekaya sahip olduğunu belirtiyor. Yapay zeka “sadece zeki değil”, aynı zamanda “kendi zekasını geliştirme sürecinin bir parçası olarak kendi kaynak koduna erişimi dahi engelleyebilir” hatta “istediği herhangi bir şeye dönüşebilecek şekilde kendini yeniden programlayabilir”.

Sonuç

Yapay zeka etiği disiplini, özellikle genel yapay zeka düşünüldüğünde, temelde bilişsel olmayan teknolojilerin ahlaki/etik disiplininden farklılık arz eder:

• Yapay zekanın yerel, belirli davranışı, programcıların her şeyi doğru yapması durumunda dahi, güvenliğinden ayrı olarak öngörülebilir olmayabilir.

• Sistemin güvenilir olduğunun doğrulanması daha büyük bir zorluk haline gelebilir, çünkü sistemin tüm çalıştığı alanlarda güvenli davranışını doğrulamak yerine, sistemin ne yapmaya çalıştığını doğrulamak gerekir.

• Etik bilişin kendisi bir mühendislik konusu olarak ele alınmalıdır.^59,60

Antik uygarlıklar köleliğin kabul edilebilir olduğunu düşünürdü; biz ise aksini düşünüyoruz. Kadınların ve siyahların oy kullanma hakkı üzerine 19. ve 20. yüzyıllar boyunca bile, etik tartışmalar sürüyordu. Günümüz uygarlığıyla eski uygarlıklar arasında tek fark gelişmiş bilim ve artan teknolojik yetkinlikler değildir. Etik bakış açısında da fark vardır. Kuvvetle olası ki, makine etiğinin en büyük meydan okumasıyla karşılaşacağız. O zaman soru şu:

Çalıştırıldığında zamanla sizden daha etik bir hale gelebilecek yapay zekayı nasıl yapacaksınız?

Hakem Değerlendirmesi: Editörler kurulu ve editörler kurulu dışındaki kişiler tarafından değerlendirilmiştir.

Yazarlık Katkıları

Konsept: K.K., Dizayn: F.G., Veri Toplama veya İşleme: K.K., Analiz veya Yorumlama: K.K., F.G., Literatür Arama: K.K., Yazan: K.K., F.G.

Çıkar Çatışması: Yazarlar tarafından çıkar çatışması bildirilmemiştir.

Finansal Destek: Yazarlar tarafından finansal destek almadıkları bildirilmiştir.

References

Copeland BJ. Artificial intelligence | Definition, Examples, and Applications | Britannica.com. Encyclopedia Britannica, https://www.britannica.com/technology/artificial-intelligence (2019, accessed 25 February 2019).

Adams S, Arel I, Bach J, Coop R, Furlan R, Goertzel B, Hall JS, Samsonovich A, Scheutz M, Schlesinger M, Shapiro SC, Sowa J. Mapping the Landscape of Human-Level Artificial General Intelligence. AI Magazine. 2012;33:25-42.

Computer AI passes Turing test in ‘world first’ - BBC News, https://www.bbc.com/news/technology-27762088 (2014, accessed 25 February 2019).

Russell SJ, Norvig P. Artificial intelligence : a modern approach. 3rd ed. New Jersey: Pearson Education. 2010.

Samuel AL. Some Studies in Machine Learning Using the Game of Checkers. II—Recent Progress. In: Computer Games I. New York, NY: Springer New York, pp. 366-400.

PrecisionFDA Truth Challenge - Google Genomics v1 documentation, https://googlegenomics.readthedocs.io/en/staging-2/use_cases/discover_public_data/precision_fda.html (accessed 26 February 2019).

Levy MC. FDA and Artificial Intelligence in Digital Health Innovation | Artificial Intelligence Law Blog, https://www.artificialintelligencelawblog.com/2018/12/fda-artificial-intelligence-digital-health-innovation/ (2018, accessed 3 March 2019).

Lakhani P, Sundaram B. Deep Learning at Chest Radiography: Automated Classification of Pulmonary Tuberculosis by Using Convolutional Neural Networks. Radiology. 2017;284:574-582.

Ting DSW, Yi PH, Hui F. Clinical Applicability of Deep Learning System in Detecting Tuberculosis with Chest Radiography. Radiology. 2018;286:729-731.

Esteva A, Kuprel B, Novoa RA, Ko J, Swetter SM, Blau HM, Thrun S. Dermatologist-level classification of skin cancer with deep neural networks. Nature 2017;542:115-118.

Ehteshami Bejnordi B, Veta M, Johannes van Diest P, van Ginneken B, Karssemeijer N, Litjens G, van der Laak JAWM; the CAMELYON16 Consortium, Hermsen M, Manson QF, Balkenhol M, Geessink O, Stathonikos N, van Dijk MC, Bult P, Beca F, Beck AH, Wang D, Khosla A, Gargeya R, Irshad H, Zhong A, Dou Q , Li Q, Chen H, Lin HJ, Heng PA, Haß C, Bruni E, Wong Q, Halici U, Öner MÜ, Cetin-Atalay R, Berseth M, Khvatkov V, Vylegzhanin A, Kraus O, Shaban M, Rajpoot N, Awan R, Sirinukunwattana K, Qaiser T, Tsang YW, Tellez D, Annuscheit J, Hufnagl P, Valkonen M, Kartasalo K, Latonen L, Ruusuvuori P, Liimatainen K, Albarqouni S, Mungal B, George A, Demirci S, Navab N, Watanabe S, Seno S, Takenaka Y, Matsuda H, Ahmady Phoulady H, Kovalev V, Kalinovsky A, Liauchuk V, Bueno G, Fernandez-Carrobles MM, Serrano I, Deniz O, Racoceanu D, Venâncio R.Diagnostic Assessment of Deep Learning Algorithms for Detection of Lymph Node Metastases in Women With Breast Cancer. JAMA. 2017;318:2199-2210.

Kubota T. Algorithm better at diagnosing pneumonia than radiologists | News Center | Stanford Medicine, https://med.stanford.edu/news/all-news/2017/11/algorithm-can-diagnose-pneumonia-better-than-radiologists.html (accessed 3 March 2019).

Arias E, Heron M, Xu J. United States life tables, 2014. Natl Vital Stat Rep. 2017;66:1-64.

Zheng Y, He M, Congdon N. The worldwide epidemic of diabetic retinopathy. Indian J Ophthalmol. 2012;60:428-431.

Flaxman SR, Bourne RRA, Resnikoff S, Ackland P, Braithwaite T, Cicinelli MV, Das A, Jonas JB, Keeffe J, Kempen JH, Leasher J, Limburg H, Naidoo K, Pesudovs K, Silvester A, Stevens GA, Tahhan N, Wong TY, Taylor HR; Vision Loss Expert Group of the Global Burden of Disease Study. Global causes of blindness and distance vision impairment 1990-2020: a systematic review and meta-analysis. Lancet Glob Health. 2017;5:e1221-e1234.

Abràmoff MD, Lavin PT, Birch M, Shah N, Folk JC. Pivotal trial of an autonomous AI-based diagnostic system for detection of diabetic retinopathy in primary care offices. npj Digital Medicine. 2018;1:39.

Ramachandran N, Hong SC, Sime MJ, Wilson AG. Diabetic retinopathy screening using deep neural network. Clinical & Experimental Ophthalmology. 2018;46:412-416.

Gargeya R, Leng T. Automated Identification of Diabetic Retinopathy Using Deep Learning. Ophthalmology. 2017;124:962-969.

Abràmoff MD, Lou Y, Erginay A, Clarida W, Amelon R, Folk JC, Niemeijer M. Improved Automated Detection of Diabetic Retinopathy on a Publicly Available Dataset Through Integration of Deep Learning. Invest Ophthalmol Vis Sci. 2016;57:5200-5206.

Ting DSW, Cheung CY, Lim G, Tan GSW, Quang ND, Gan A, Hamzah H, Garcia-Franco R, San Yeo IY, Lee SY, Wong EYM, Sabanayagam C, Baskaran M, Ibrahim F, Tan NC, Finkelstein EA, Lamoureux EL, Wong IY, Bressler NM, Sivaprasad S, Varma R, Jonas JB, He MG, Cheng CY, Cheung GCM, Aung T, Hsu W, Lee ML, Wong TY. Development and Validation of a Deep Learning System for Diabetic Retinopathy and Related Eye Diseases Using Retinal Images From Multiethnic Populations With Diabetes. JAMA. 2017;318:2211-2223.

Gulshan V, Peng L, Coram M. Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. JAMA. 2016;316:2402-2410.

Li Z, Keel S, Liu C, He Y, Meng W, Scheetz J, Lee PY, Shaw J, Ting D, Wong TY, Taylor H, Chang R, He M. An Automated Grading System for Detection of Vision-Threatening Referable Diabetic Retinopathy on the Basis of Color Fundus Photographs. Diabetes Care. 2018;41:2509-2516.

Acharya UR, Ng EYK, Tan J-H, Sree SV, Ng KH. An integrated index for the identification of diabetic retinopathy stages using texture parameters. J Med Syst. 2012;36:2011-2020.

Ganesan K, Martis RJ, Acharya UR, Chua CK, Min LC, Ng EY, Laude A. Computer-aided diabetic retinopathy detection using trace transforms on digital fundus images. Med Biol Eng Comput. 2014;52:663-672.

Sandhu HS, Eltanboly A, Shalaby A, Keynton RS, Schaal S, El-Baz A. Automated Diagnosis and Grading of Diabetic Retinopathy Using Optical Coherence Tomography. Invest Ophthalmol Vis Sci. 2018;59:3155-3160.

Adhi M, Semy SK, Stein DW, Potter DM, Kuklinski WS, Sleeper HA, Duker JS, Waheed NK. Application of Novel Software Algorithms to Spectral-Domain Optical Coherence Tomography for Automated Detection of Diabetic Retinopathy. Ophthalmic Surg Lasers Imaging Retina. 2016;47:410-417.

ElTanboly A, Ismail M, Shalaby A, Switala A, El-Baz A, Schaal S, Gimel’farb G, El-Azab M. A computer-aided diagnostic system for detecting diabetic retinopathy in optical coherence tomography images. Med Phys. 2017;44:914-923.

Qi SR. Machine Learning and OCT Images — the Future of Ophthalmology, https://medium.com/health-ai/machine-learning-and-oct-images-the-future-of-ophthalmology-47dc64ee9dc6.

Qi SR. Deep Learning in Ophthalmology — How Google Did It – Health, https://medium.com/health-ai/deep-learning-in-ophthalmology-using-128-175-retinal-images-59814e8a3f68 (accessed 4 March 2019).

Agurto C, Barriga ES, Murray V, Nemeth S, Crammer R, Bauman W, Zamora G, Pattichis MS, Soliz P. Automatic Detection of Diabetic Retinopathy and Age-Related Macular Degeneration in Digital Fundus Images. Invest Ophthalmol Vis Sci. 2011;52:5862-5871.

Zheng Y, Hijazi MHA, Coenen F. Automated “Disease/No Disease” Grading of Age-Related Macular Degeneration by an Image Mining Approach. Invest Ophthalmol Vis Sci. 2012;53:8310-8318.

Mookiah MR, Acharya UR, Koh JE, Chandran V, Chua CK, Tan JH, Lim CM, Ng EY, Noronha K, Tong L, Laude A. Automated diagnosis of Age-related Macular Degeneration using greyscale features from digital fundus images. Comput Biol Med. 2014;53:55-64.

Burlina PM, Joshi N, Pekala M, Pacheco KD, Freund DE, Bressler NM. Automated Grading of Age-Related Macular Degeneration From Color Fundus Images Using Deep Convolutional Neural Networks. JAMA Ophthalmol. 2017;135:1170-1176.

Grassmann F, Mengelkamp J, Brandl C, Harsch S, Zimmermann ME, Linkohr B, Peters A, Heid IM, Palm C, Weber BHF. A Deep Learning Algorithm for Prediction of Age-Related Eye Disease Study Severity Scale for Age-Related Macular Degeneration from Color Fundus Photography. Ophthalmology. 2018;125:1410-1420.

Singh A, Dutta MK, ParthaSarathi M, Uher V, Burget R. Image processing based automatic diagnosis of glaucoma using wavelet features of segmented optic disc from fundus image. Comput Methods Programs Biomed. 2016;124:108-120.

Salam AA, Khalil T, Akram MU, Jameel A, Basit I. Automated detection of glaucoma using structural and non structural features. Springerplus. 2016;5:1519.

Chakrabarty L, Joshi GD, Chakravarty A, Raman GV, Krishnadas SR, Sivaswamy J. Automated Detection of Glaucoma From Topographic Features of the Optic Nerve Head in Color Fundus Photographs. J Glaucoma. 2016;25:590-597.

Chen X, Xu Y, Kee Wong DW, Wong TY, Liu J. Glaucoma detection based on deep convolutional neural network. In: 2015 37th Annual International Conference of the IEEE Engineering in Medicine and Biology Society. Conference 2015:715-718.

Li Z, He Y, Keel S, Meng W, Chang RT, He M. Efficacy of a Deep Learning System for Detecting Glaucomatous Optic Neuropathy Based on Color Fundus Photographs. Ophthalmology. 2018;125:1199-1206.

Muhammad H, Fuchs TJ, De Cuir N, De Moraes CG, Blumberg DM, Liebmann JM, Ritch R, Hood DC. Hybrid Deep Learning on Single Wide-field Optical Coherence tomography Scans Accurately Classifies Glaucoma Suspects. J Glaucoma. 2017;26:1086-1094.

Oh E, Yoo TK, Hong S. Artificial Neural Network Approach for Differentiating Open-Angle Glaucoma From Glaucoma Suspect Without a Visual Field Test. Invest Ophthalmol Vis Sci. 2015;56:3957-3966.

Bowd C, Lee I, Goldbaum MH, Balasubramanian M, Medeiros FA, Zangwill LM, Girkin CA, Liebmann JM, Weinreb RN. Predicting Glaucomatous Progression in Glaucoma Suspect Eyes Using Relevance Vector Machine Classifiers for Combined Structural and Functional Measurements. Invest Ophthalmol Vis Sci. 2012;53:2382-2389.

Niwas SI, Lin W, Bai X, Kwoh CK, Jay Kuo CC, Sng CC, Aquino MC, Chew PT. Automated anterior segment OCT image analysis for Angle Closure Glaucoma mechanisms classification. Comput Methods Programs Biomed. 2016;130:65-75.

Silva FR, Vidotti VG, Cremasco F, Dias M, Gomi ES, Costa VP. Sensitivity and specificity of machine learning classifiers for glaucoma diagnosis using Spectral Domain OCT and standard automated perimetry. Arq Bras Oftalmol. 2013;76:170-174.

Vidotti VG, Costa VP, Silva FR, Resende GM, Cremasco F, Dias M, Gomi ES. Sensitivity and Specificity of Machine Learning Classifiers and Spectral Domain OCT for the Diagnosis of Glaucoma. Eur J Ophthalmol. 2012;23:61-69.

Fleck BW, Dangata Y. Causes of visual handicap in the Royal Blind School, Edinburgh, 1991-2. Br J Ophthalmol. 1994;78:421.

Early Treatment for Retinopathy of Prematurity Cooperative Group, Good WV, Hardy RJ, Dobson V, Palmer EA, Phelps DL, Tung B, Redford M. Final visual acuity results in the early treatment for retinopathy of prematurity study. Arch Ophthalmol. 2010;128:663-671.

Chiang MF, Jiang L, Gelman R, Du YE, Flynn JT. Interexpert Agreement of Plus Disease Diagnosis in Retinopathy of Prematurity. Arch Ophthalmol. 2007;125:875-880.

Braverman RS, Enzenauer RW. Socioeconomics of Retinopathy of Prematurity In-Hospital Care. Arch Ophthalmol. 2010;128:1055-1058.

Brown JM, Campbell JP, Beers A, Chang K, Ostmo S, Chan RVP, Dy J, Erdogmus D, Ioannidis S, Kalpathy-Cramer J, Chiang MF, Imaging and Informatics in Retinopathy of Prematurity (i-ROP) Research Consortium. Automated Diagnosis of Plus Disease in Retinopathy of Prematurity Using Deep Convolutional Neural Networks. JAMA Ophthalmol. 2018;136:803-810.

Redd TK, Campbell JP, Brown JM, Kim SJ, Ostmo S, Chan RVP, Dy J, Erdogmus D, Ioannidis S, Kalpathy-Cramer J, Chiang MF; Imaging and Informatics in Retinopathy of Prematurity (i-ROP) Research Consortium. Evaluation of a deep learning image assessment system for detecting severe retinopathy of prematurity. Br J Ophthalmol. 2018;bjophthalmol-2018-313156.

De Fauw J, Ledsam JR, Romera-Paredes B, Nikolov S, Tomasev N, Blackwell S, Askham H, Glorot X, O’Donoghue B, Visentin D, van den Driessche G, Lakshminarayanan B, Meyer C, Mackinder F, Bouton S, Ayoub K, Chopra R, King D, Karthikesalingam A, Hughes CO, Raine R, Hughes J, Sim DA, Egan C, Tufail A, Montgomery H, Hassabis D, Rees G, Back T, Khaw PT, Suleyman M, Cornebise J, Keane PA, Ronneberger O. Clinically applicable deep learning for diagnosis and referral in retinal disease. Nat Med. 2018;24:1342-1350.

Kamm FM. Terrorism and several moral distinctions. Legal Theory. 2006;12:19-69.

Frankish K, Ramsey WM. The Cambridge handbook of artificial intelligence. Choice Reviews Online. 2015;52:3019-3019.

Keskinbora HK, Keskinbora K. Ethical considerations on novel neuronal interfaces. Neurol Sci. 2018;39:607-613.

Bostrom N, Cirkovic MM. Global catastrophic risks. Choice Reviews Online. 2013;46:6152-6152.

Vinge V. The Coming Technological Singularity: How to Survive in the Post-Human Era. Science Fiction Criticism: An Anthology of Essential Writings. 1993;352-363.

Kurzweil R. The singularity is near : when humans transcend biology. Viking; 2005. https://www.amazon.com/Singularity-Near-Humans-Transcend-Biology/dp/0143037889

Frankish K, Ramsey WM. The Cambridge Handbook of Artificial Intelligence, https://philpapers.org/rec/FRATCH-2 (2014, accessed 4 March 2019).

Keskinbora KH, Jameel MA. Nanotechnology Applications and Approaches in Medicine: A Review. Journal of Nanotechnology; 2018:1-5.

Yapay Zeka ve Oftalmoloji