Ev sahipleri tarafından kullanılan bir yapay zeka tarama aracı olan SafeRent, konut kuponlarını kullanan birinin iyi bir kiracı olup olmayacağını değerlendirmek için artık yapay zeka destekli “puanları” kullanmayacak. Çarşamba günü, ABD Bölge Yargıcı Angel Kelley nihai onayı yayınladı SafeRent’in kiracılara gelir ve ırk temelinde ayrımcılık yapmasını önlemek için yaklaşık 2,3 milyon dolarlık bir anlaşma için.
Anlaşma, 2022’de açılan toplu davadan kaynaklanıyor Massachusetts’te. Davada, SafeRent’in puanlama sisteminin konut kuponlarını kullanan kişilere, özellikle de Siyahi ve Hispanik başvuru sahiplerine orantısız bir şekilde zarar verdiği iddia edildi. Şikayet, Massachusetts yasasını ihlal etmenin yanı sıra SafeRent’i konut ayrımcılığını yasaklayan Adil Konut Yasasını ihlal etmekle de suçladı.
İlk davada belirtildiği gibi SafeRent’in puanlama algoritması, potansiyel kiracılara bir SafeRent Puanı atamak için kredi geçmişi ve kiralamayla ilgili olmayan borçlar gibi faktörleri kullanıyor. Ev sahipleri daha sonra bu puanı kullanarak birinin kiralama başvurusunu kabul edip etmeyeceğini belirleyebilir. Dava, SafeRent’in ev sahiplerine bir kişinin puanının nasıl belirlendiğini söylememesi nedeniyle sürecin şeffaf olmadığını iddia etti. Sistemin Siyahi ve Hispanik kiracıların yanı sıra konut kuponu kullanan kişilere de adaletsiz bir şekilde daha düşük puanlar verdiği ve bunun da ev sahiplerinin konut başvurularını reddetmesine yol açtığı iddia edildi.
Beş yıllık anlaşma kapsamında, SafeRent artık ülke çapında konut kuponu kullanan başvuru sahipleri için kiracı tarama puanı göstermeyecek ve ev sahipleri “uygun fiyatlı” SafeRent Puanı modelini kullandığında bir puan içermeyecek. SafeRent’in hizmeti ayrıca, konut kuponu kullanan birinin başvurusunun “kabul edilmesi” veya “reddedilmesi” konusunda öneriler görüntüleyemez. Bu, ev sahiplerinin artık konut kuponlarını kullanan kiracıları yalnızca SafeRent puanlarını kullanmak yerine tüm kayıtlarına göre değerlendirmeleri gerektiği anlamına geliyor.
“Kredi puanları ve SafeRent Puanları gibi benzer şekilde modellenen puanlar, yalnızca[en] Ulusal Tüketici Hukuku Merkezi direktörü Shennan Kavanagh, yaptığı açıklamada, kredi yükümlülüklerinin geri ödenmesini tahmin etme konusunda test edildiğini söyledi. “Bu tür verilerin kiracıların kira ödeyeceğini öngördüğüne dair hiçbir kanıt yok.”
Anlaşmanın bir parçası olarak toplanan para, konut kuponlarını kullanan ve SafeRent’in kiracı puanı nedeniyle konut temin edemeyen Massachusetts merkezli kiralama başvuru sahiplerine gidecek. “SafeRent SRS’ye inanmaya devam ederken [SafeRent Solutions] SafeRent sözcüsü Yazmin Lopez, yaptığı açıklamada, puanların geçerli tüm yasalara uygun olduğunu, davaların zaman alıcı ve pahalı olduğunu söyledi. eşik. “Bu durumda SRS Puanını savunmanın, SafeRent’in konut sağlayıcılarına başvuranları taramak için ihtiyaç duydukları araçları sağlama yönündeki temel misyonuna hizmet etmek için kullanabileceği zaman ve kaynakları başka yöne çevireceği giderek daha açık hale geldi.”
SafeRent, yasal işlemle karşı karşıya kalan en yeni algoritma odaklı mülk yönetimi yazılımıdır. Ağustos ayında Adalet Bakanlığı, algoritmik fiyatlandırma yazılımının kirayı artırdığı iddiası nedeniyle RealPage’e dava açtı.
