İnkişaf edən İİ texnologiyaları: Şirkətlər nə vaxtsa 'yox' deməyə başladı

İİ sənayesində yeni dövr: 'Yox' cavabı

Süni intellektin inkişafı ilə bağlı ən ümidverici dəyişikliklərdən biri, onun təhlükəli ola biləcəyi fikrini qəbul edən şirkətlərin artmasıdır. Bu təhlükələrdən bəziləri 'Skynet' və ya 'HAL 9000' kimi senarilər deyil, lakin infrastruktur, məxfilik, təhlükəsizlik və ictimai-şəxsi sərhədlərin pozulması kimi real risklərdir. Uzun müddətdir ki, böyük tex şirkətləri inkişafda 'gaz pedalına' çox, 'frenə' isə az basırdı — bu da bəzi mənfi nəticələrə səbəb olsa da, ümumi fayda gətirdi. Lakin indi İİ sahəsində bir sıra şirkətlər qəribə bir addım atmağa başladı: onlar 'yox' deməyə qərar verirlər.

Anthropic: Kritik modeli ictimaiyyətə buraxmamaq qərarı

Anthropic şirkəti, Claude Mythos Preview adlı yeni modelini geniş ictimaiyyətə təqdim etməkdən imtina etdi. Bu modelin, əsas əməliyyat sistemləri və veb-brauzerlərdə minlərlə ciddi zəiflikləri aşkar etdiyi bildirilir. Bunun əvəzinə, şirkət modelə yalnız xüsusi konsorsiumun — Amazon Web Services, Apple, Google, Microsoft, NVIDIA və digər kritik infrastruktur təminatçıları daxil olan qrupun daxilində çıxış imkanı verdi.

Anthropic-in bu qərarı müdafiə məqsədli idi: modelin potensial təhlükəli istifadəçilərdən əvvəl zəiflikləri tapmaq və onları aradan qaldırmaq üçün istifadə etmək. Project Glasswing adı verilən bu layihə, şirkətlərin öz maraqlarını da nəzərə alır. Beləliklə, şirkətlər 'qoruyucu' rolunda çıxış edərək, rəqiblərin modeli tez bir zamanda təkrarlamasının qarşısını almaq istəyirlər. İİ sənayesində əvvəllər hər yeni imkanın dərhal ictimaiyyətə təqdim edilməsi vacib sayılırdı, lakin indi belə güclü modellərin ictimaiyyətə buraxılmaması qərarı qəbul edilir.

Pentagonla münaqişə: Müharibə texnologiyalarına məhdudiyyətlər

Anthropic, Pentagona verdiyi cavabda, şirkətinin modellərinin hərbi istifadə üçün yalnız iki istisna şərtini qeyd etdi: massiv daxili nəzarət və tam avtonom silahlar. CEO Dario Amodei qeyd etdi ki, İİ, kommersiya məqsədli məlumatlardan istifadə edərək hər bir şəxsin həyatını avtomatik və böyük miqyasda təsvir etmək imkanı yaradır. Avtonom silahlar məsələsində isə o, müasir sistemlərin hələ tam avtonom şəkildə hədəf seçib vurmaq üçün kifayət qədər etibarlı olmadığını bildirdi.

Digər böyük tex şirkətləri kimi, Anthropic də hökumətin adi müharibə fəaliyyətlərinə dəstək verməyə hazırdır. Lakin şirkət, məhsulunun istifadəsinə müəyyən məhdudiyyətlər qoymaq istəyir. Bu qərar Pentagonda qəzəbli və qeyri-müəyyən bir reaksiya doğurdu. Müdafiə Nazirliyi, yalnız 'qanuni istifadə' şərtlərini qəbul edən və bu mühafizələri ləğv edən şirkətlərlə müqavilə imzalayacağını bildirdi. Anthropic bu şərtləri qəbul etməyincə, Müdafiə Nazirliyinin rəhbəri Pete Hegseth şirkəti milli təhlükəsizlik üçün risk olaraq təyin etdi — bu addım isə mübahisələrə səbəb oldu.

Nəticə: İİ sənayesində məsuliyyət artır

Bu hadisələr göstərir ki, İİ sənayesi artıq inkişafın hər şeyə üstün gəlməsi fikrindən uzaqlaşır və məsuliyyətli qərarlar qəbul etməyə başlayır. Anthropic kimi şirkətlər, potensial təhlükələri erkən qəbul edərək, həm özlərini, həm də ictimaiyyəti qorumaq üçün addımlar atır. Bu tendensiya, digər sənaye liderlərinin də oxşar qərarlar qəbul etməsinə səbəb ola bilər.