Scale AI CEO’s Uyarısı: Kritik AI Kullanımında Güvenilirlik Şart

San Francisco merkezli Scale AI’nin CEO’su Jason Droege, yapay zekanın (AI) iş dünyası, ordu ve hükümetler gibi kritik alanlarda kullanılmasının güvenilirlik eksikliği nedeniyle riskli olduğunu belirtti.

47 yaşındaki Droege, Axios’a yaptığı açıklamada, bu tür ortamlarda yapılacak hataların maliyetinin çok yüksek olabileceğini vurguladı. Droege, şirketin 10. yılını kutladığı bu dönemde, San Francisco’dan yaptığı değerlendirmede, AI’nın güvenilirliğinin artırılması gerektiğine dikkat çekti.

Scale AI’nin Dönüşümü ve Güvenilirlik Odaklı Strateji

Droege, Haziran 2023’te şirketin kurucusu Alexandr Wang’ın Meta’nın ilk AI sorumlusu olmasıyla görevi devraldı. Meta’nın Scale AI’da yüzde 49’luk hisseye sahip olmasıyla birlikte, şirketin veri etiketleme firmasından AI altyapı ve dağıtım şirketine dönüştüğünü göstermek istediğini ifade etti.

Droege, çalışanlarına yönelik olarak hazırladığı ve ilk kez duyurulan ‘Güvenilirlik Yarışı’ manifestosunda, “Bu düzeyde güvenilirlik, insan zekasına bağlıdır” ifadesini kullandı. Ayrıca, “Önde konuşlandırılan mühendislerimiz, müşterilerin özel iş akışları ve kullanım senaryoları için güvenilirliği sağlıyor” dedi.

Müşteri Geri Bildirimleri ve Güvenilirlik Arayışı

Droege, Axios’a yaptığı açıklamada, müşteri ve potansiyel müşterilerle yaptığı görüşmelerde güvenilirlik mesajını sentezlediğini belirtti. AI hakkında sürekli yüzlerce konunun tartışıldığını, ancak asıl önemli olanın güvenilirlik olduğunu vurguladı. Droege, “Daha önceki işlerimde öğrendiğim şey, ana konuyu sürekli ön planda tutmak zorunda olduğunuzdur. Bu konunun tüm nüanslarını da konuşmalısınız” dedi.

Droege’nin manifestosunun amacının, ekibini müşterilerin en önemli talebine odaklamak olduğunu söyledi: “AI’nın güvenilirliğini artırarak, yapılan büyük yatırımların geri dönüşünü görmelerini sağlamak.”

Müşterilerin, AI ürünlerinin genellikle iyi çalışmasına rağmen büyük hatalara da yol açabileceğini ve bunun teknolojiye olan güveni azalttığını belirten Droege, “Beklenti ile gerçeklik arasındaki boşluğu kapatmak için bir fırsat olduğunu gördük” dedi. “Bu nedenle, son birkaç yıldır bu alana yatırım yapıyoruz.”

Sektördeki Hype ve Gerçek Başarılar

Droege, sektörde çok fazla hype ve konuşma olduğunu, ancak Scale AI’nın müşterilerin beklediği sonuçlara ulaşmak için yenilikler ve sürekli çalışma yoluyla ilerlediğini ifade etti.

Liderlik tarzı hakkında sorulan bir soruya karşılık Droege, “Tarihin en dinamik dönemlerinden birindeyiz. Bu nedenle, dikkatin dağılması kesin bir başarısızlık yoludur. Ben, önemli olan iki ya da üç şeyi belirleyip sürekli bunları vurgulamakta iyiyim” yanıtını verdi.