Algorithms and Shifts in Morality: An Inevitable Debate

Author: Gülnur Tumbat, PhD - Advisory Board Member, Kimola
Gülnur Tumbat, PhD Advisory Board Member, Kimola
Sep 12, 2022 - 3 min read
Algorithms and Shifts in Morality: An Inevitable Debate

Kendi kendini süren arabalar bir süredir ortalıkta dolaşıyor, ancak mevcut ve potansiyel teknik sorunlar açısından sürekli olarak test edildikleri için adaptasyon oranları hala düşük. Bazıları , algoritmaların yalnızca arabalarımızı değil, günlük yaşamımızı da giderek daha fazla kontrol altına almasıyla birlikte, sözde teknik sorunların normlar, ahlak ve etik hakkındaki tartışmalara derinden gömülü olduğunu ileri sürüyor.

The Ethical Dilemma of Self-Driving Cars

Tripat Gill, Tüketici Araştırmaları Dergisi'ndeki bir makalesinde, insanların hala otomatikleştirilmiş bir araca ne kadar kontrol bırakmaları gerektiğini anlamaya ve kabul etmeye çalıştıkları göz önüne alındığında, bu sorunları inceledi. Gill , bir dizi deney aracılığıyla ahlaki bir değişim gözlemledi:

İnsanlar, normal bir araba kendi başına değil de kendi algoritması (otonom sürüş modu) tarafından sürüldüğünde, bir yayaya zarar vermenin (kendilerine zarar vermekle karşılaştırıldığında) caiz olduğunu düşünüyorlardı. Başka bir deyişle, eğer kararı otomatik araç veriyorsa, o zaman “sorumluluk” araçtaki kişiye değil algoritmaya aitti.

Bu, zararın orta veya şiddetli olarak sınıflandırıldığı ve zararın gerçek veya hayali olduğu durumlarda (bire bir ikilem durumunda) tekrar tekrar gözlemlendi. Beş yayanın (bire kıyasla) veya bir çocuğun zarar görmesi durumunda etki daha azdı. Arabayı kullanan kişi olsaydı (sürücü modu), yayalara (beş kişi veya bir çocuk) zarar vermemeye çalışırlardı, bu sürücünün yaralanmasına neden olsa bile.

Balancing Morality and Technology

Teknoloji hayatlarımızı daha fazla kontrol altına aldıkça, onun istenmeyen sonuçlarını anlamak ve bunlara ayak uydurmak daha zor hale geliyor. Bu çalışma bunlardan birini önermek açısından hayati önem taşıyor: Otomatik teknolojilerin kullanımı, ahlaki normları değiştirme ve insanların kişisel çıkarlarını artırma potansiyeline sahiptir. İnsanların bu algoritmik ajanları benimseyip benimsemeyeceklerinin tek sorun olmayabileceğini belirtmek de önemlidir; ama onlardan nasıl bir ahlak bekliyorlar.

Algoritmik ajanlar yolcuyu mu yoksa yayayı mı kurtarmaya öncelik vermeli? Bu tür acentelerin müşterileri bu ahlakı kişiselleştirebilmeli mi? İnsanların bu tür tercihlere yansıyan önyargıları toplumu nasıl etkiler? İnsanlar arasındaki güvenin anlamı ne olacak? Robotlar ve insanlar arasında mı? Kim herhangi bir sorumluluğu üstlenecek? Bu cihazları üreten veya sigortalayan şirketlerin sorumluluğu nasıl işleyecek? Otomatik temsilci ahlakı standartlaştırılabilir mi? Kimin standardı olacak? Ve Gill'in makalesinin sonunda ana hatları verilen birçok araştırma çalışması ve diğer pek çok soru gibi, daha pek çok soru ortalıkta dolaşıyor. Yapay zekadaki etik üzerine hem felsefi hem de pratik tartışmaların sizi farklı yerlere götürme potansiyeline sahip olduğunu söylemek yetersiz kalır. 

Gill, Tripat (2020), "Suçlamayı Sürücüsüz Arabaya Yapın: Otonom Araçlar Tüketici Ahlakını Nasıl Değiştirebilir?" Tüketici Araştırmaları Dergisi , 47, 272-291.

 

Subscribe to Our Newsletter!

We gather global consumer research news and share them with 3,000+ marketing and research professionals worldwide.

Latest