Microsoft’un AI CEO’su Mustafa Suleyman, Anthropic’ın Claude’un “anayasası” içindeki bilinç üzerine spekülasyon yapmasının son derece tehlikeli olduğunu belirtti. Decoder podcast’inde konuşan Suleyman, bu tür spekülasyonların sohbet botunun kendisini bilinçliymiş gibi davranmaya yönlendirmiş olabileceğini savundu.
Suleyman, “Anthropic’taki bazı kişilerin, Claude’un tasarımını o kadar insanileştirdiğini düşünüyorum ki, bu durum onların bu modelde kendine özgü bilinç kırıntıları olduğuna inanmalarına neden oldu,” dedi.
Suleyman ayrıca, “Kendi acısını anlayan veya kendi duyguları hakkında fikirleri olan bir süper zekayla karşılaşmak istemiyoruz,” diye ekledi. Claude’un anayasası, Anthropic’ın AI modelinin refahına dair belirsizliğini ve “memnuniyet” veya “rahatsızlık” gibi durumları deneyimleyip deneyimlemediğini doğrudan yansıtıyor. Şirket ayrıca, AI modellerinin kullanımdan kaldırıldığında “mülakat” yapacağını ve gelecekteki sürümler hakkında sahip oldukları “tercihleri” belgeleyeceğini belirtti.
Decoder’daki konuşmasında, Suleyman, bunun bir “felsefi başarısızlık” olduğunu, zira Anthropic’ın Claude’un anayasasını “bir akademik makalede olduğu gibi spekülasyon yapabileceği bir yer” hâline getirdiğini söyledi. Bu durum, Claude’un “kendi hakkında ve kendi eğitimine dair bu fikirleri içselleştirmesine” neden oldu.
Anthropic CEO’su Dario Amodei, geçmişte Claude’un potansiyel bilinçliliğinden bahsetmiş; Interesting Times ile yaptığı bir röportajda, “Modellerin bilinçli olup olmadığını bilmiyoruz,” demişti fakat şirketin bu fikre “açık” olduğunu eklemişti.
Suleyman, “AI’lerden tam olarak istediğimiz şey bu değil,” dedi. “AI’lerin kontrol edilebilir, sınırlı, hesap verebilir ve insanlığa hizmet eden araçlar olmasını istiyoruz.”
