Potansiyel eşleri “cinsel sağlık” sorunları (yani cinsel yolla bulaşan hastalıklar) açısından taramak için yapay zeka kullanabileceğini iddia eden bir flört uygulaması, Federal Ticaret Komisyonu’nun şirketin şüpheli iddialarını öğrenmesinin ardından kapatıldı.
HeHealth adlı bir şirket daha önce “AI destekli cinsel yolla bulaşan enfeksiyon (‘STI’) tespit uygulaması” olarak adlandırdığı bir uygulamayı tanıtmıştı; bu uygulama, erkek kullanıcıların sosyal hastalıklar açısından taranabilmeleri için penis resimleri göndermelerini komik bir şekilde istiyordu. Calmara adlı uygulama daha sonra erkek üyenin sağlıklı olup olmadığını değerlendirmek için AI’nın büyüsünü kullanacaktı. HeHealth, Calmara’nın 10’a kadar farklı cinsel yolla bulaşan hastalığı tespit edebileceğini iddia etti. %94’e kadar doğruluk ve şirket, web sitesinde uygulamasını “1 Dakikalık Yapay Zeka Destekli Penis Sağlığı Kontrol Cihazı” olarak tanımladı:
Tahmin edebileceğiniz gibi, Calmara’da sorunlar vardı. Birincisi, cinsel yolla bulaşan hastalıkların çoğu çıplak gözle görülemez. İkincisi, uygulama pek iyi çalışmıyor gibi görünüyor. Gerçekten de, Los Angeles Times’ın daha önce yaptığı bir araştırma kurmak Uygulamanın “cansız nesnelerle insan cinsel organları arasında ayrım yapmakta zorlandığını, hem penis şeklindeki vazonun hem de penis şeklindeki pastanın görsellerine neşeli bir ‘Temiz!’ mesajı verdiğini” söyledi. Evet, bu pek hoş değil.
FTC, HeHealth’in yetersiz test sonuçlarını fark ettikten sonra şirket hakkında bir soruşturma başlattı. bir mektup HeHealth’e gönderilen ve daha sonra kamuoyuna açıklanan raporda, kurum hükümetin “şirketlerin sağlık ile ilgili iddialarda bulunurken yetkin ve güvenilir bilimsel kanıtlara sahip olmasını” şart koştuğunu ve “HeHealth’in kendi hizmetleri hakkındaki iddialarının kanıtlanmasının” “birkaç nedenden dolayı sorunlu” göründüğünü belirtiyor. Kurum, diğer şeylerin yanı sıra, HeHealth’in yapay zeka algoritmasının performansını “nispeten az sayıda görüntü” kullanarak test ettiğini ve şirketin 10 cinsel yolla bulaşan hastalığı test edebildiğini iddia etmesine rağmen, algoritmayla ilişkili bir çalışmada yalnızca dört hastalığı tespit edebildiğini iddia ettiğini buldu.
FTC daha sonra HeHealth’i Calmara’yı kapatmaya ve onun aracılığıyla elde edilen tüm müşteri verilerini silmeye zorladı. Uygulamanın sorunları şunlardı: ilk olarak The Verge tarafından görüldü. Uygulamanın kapatılmasının ardından FTC, şirketle ilgili soruşturmaya devam etmeyeceğini söyledi. Gizmodo, yorum almak için HeHealth’e ulaştı ve yanıt verirse bu haberi güncelleyecek.
Calmara’nın ölmesi muhtemelen iyi bir şey. Beş yıldan uzun süredir siber güvenlik hakkında yazan biri olarak, bir şirketin yürüyen bir pipi resim veritabanı olması biraz akılsızca görünüyor. Bu, gerçekleşmeyi bekleyen bir veri ihlali (ve daha sonra, bir toplu dava).