Amazon CTO’su Werner Vogels (kovid-19 salgını sırasında yaşadığı küçük Central Amsterdam Airbnb’yi doğrudan satın alan, sayısız milyonlar değerinde bir adam) günlerini nasıl geçiriyor? Görünüşe göre: AI destekli toplantı özetleme uygulamaları oluşturmak. Haydi rakam.
İçinde postalamak bu hafta Vogels’in kişisel blogunda, konferans görüşmelerini yazıya dökmek ve özetlemek için “OCTO” (CTO Ofisi) ekibiyle birlikte geliştirdiği açık kaynaklı bir uygulama olan Distill’i ayrıntılarıyla anlatıyor. Distill bir toplantının ses kaydını alır (MP3, FLAC ve WAV gibi formatlarda), bunu analiz eder ve yapılacaklar listesinin yanı sıra bir özet oluşturur. İsteğe bağlı olarak bu özeti ve listeyi özel entegrasyonlar aracılığıyla Slack gibi platformlara aktarabilir.
Amazon’un CTO’sundan bir uygulamadan beklenebileceği gibi Distill, hesaplama açısından ağır işleri yapmak için bariz bir şekilde ücretli Amazon ürünlerine ve hizmetlerine güveniyor. AWS Transcribe, Distill’in transkripsiyonunu gerçekleştirir; Amazon S3, toplantı ses dosyaları için depolama alanı sağlar; ve Amazon’un üretken yapay zeka geliştirme paketi Bedrock, özetlemeyi yönetiyor.
Ama amacı karşılayacak sayısız araç varken neden bir toplantı özetleyici oluşturasınız ki? Vogels’in neden olmasın diye düşündüğünü tahmin etmeliyim. Elinde tonlarca kaynak var ve görünüşte hobi amaçlı programlama projeleri için yeterli boş zamanı var. Bloga göre Distill’in kod tabanını Python’dan Rust’a taşımak için şimdiden şansını deniyor. (Eğer alabiliyorsanız, CTO olmak güzel bir iştir.)
Distill’in benzersiz özelliklerinden biri, toplantı özetlemeyi hangi yapay zeka modelinin gerçekleştireceğini seçmenize olanak sağlamasıdır. Varsayılan olarak Anthropic’in Claude 3 ailesinden orta seviye bir model olan Sonnet’tir. (Amazon’un Anthropic’teki büyük payının bu tasarım kararıyla bir ilgisi olabilir.) Ancak Bedrock’ta barındırılan herhangi bir model, Meta’nın Llama 3’ü ve yapay zeka girişimleri Mistral, AI21 Labs ve Cohere’in modelleri gibi çalışacaktır.
Vogels, Distill’in hata yapmayacağına dair söz vermiyor.
“Unutmayın, yapay zeka mükemmel değil” diye yazıyor. “Geri aldığımız özetlerden bazılarında… manüel olarak düzeltilmesi gereken hatalar var. Ama sorun değil, çünkü bu yine de süreçlerimizi hızlandırıyor. Bu sadece, hâlâ anlayışlı olmamız ve sürece dahil olmamız gerektiğinin bir hatırlatıcısıdır. Eleştirel düşünme artık her zaman olduğu kadar önemli.”
Özetlemeye “dahil olmak” zorunda olmanın, otomatik özetleyicinin amacını bir nevi boşa çıkardığını iddia ediyorum. Bir stenograf da tutabilirsiniz. Ama Vogels’i işvereninin sattığı teknolojiye kötü söz ederken asla göremezsiniz. Bahse girerim ki, onun hala CTO olmasının nedeni de budur.