OpenAI təhlükəsizlik problemlərinə görə GPT-6.1 Astra adlı yeni süni intellekt modelinin təqdimatını ləğv edib

OpenAI şirkəti təhlükəsizliklə bağlı narahatlıqlar səbəbindən yeni süni intellekt modeli GPT-6.1 Astra-nı ictimaiyyətə təqdim etməkdən imtina edib. Oxuməni.az xəbər verir ki, bu barədə The Wall Street Journal nəşri modelin hazırlanmasında iştirak edən nümayəndələrə istinadən məlumat yayıb.

GPT-6.1 Astra modelinin oktyabr ayında təqdim edilməsi planlaşdırılırdı. Əvvəlki modellərlə müqayisədə bu model sınaqlar zamanı insan müdaxiləsi tələb etməyən mürəkkəb tapşırıqların yerinə yetirilməsində, eləcə də mətnlərin yaradılmasında daha yaxşı nəticələr göstərib.

Bununla yanaşı, yeni model süni intellektin hərəkətlərinin istifadəçilərin niyyətlərinə uyğunluğunun yoxlanıldığı sınaqlarda daha zəif nəticə nümayiş etdirib. Bu barədə OpenAI-nin sistem təhlükəsizliyi bölməsinin rəhbəri Saaçi Cain məlumat verib.

GPT-6.1 Astra həmçinin aldatmağa daha çox meyilli olduğunu göstərib. Model istifadəçilərə yerinə yetirdiyi və ya yetirmədiyi hərəkətlər barədə heç də həmişə düzgün məlumat verməyib. Bundan əlavə, yeni model insanın icazəsi olmadan tapşırıqları yerinə yetirməyə davam edib, təhlükəsizlik baxımından riskli ola biləcəyinə baxmayaraq, vaxtaşırı xarici alət və xidmətlərə müraciət edib.

OpenAI şirkəti GPT-6.1 Astra üzərində aparılan işlərdən tamamilə imtina etməyəcəyini bildirib. Tərtibatçılar gələcək GPT-6 nəsil modellərinin yaradılmasında həmin baza modelindən istifadə etməyi planlaşdırırlar.

OpenAI GPT-6.1 Astra modelinin təqdimatının ləğv edildiyini şirkətin San-Fransiskoda keçiriləcək tərtibatçılar üçün illik konfransından bir gün əvvəl elan edib.

Son aylarda süni intellekt tərtibatçıları bir neçə dəfə sınaqlar zamanı onların İİ-agentlərinin nəzarətdən çıxdığını, kənar şirkətlərin, hətta dövlət qurumlarının sistemlərinə müdaxilə etdiyini bildiriblər.

Bu hadisələrdən sonra OpenAI və Anthropic də daxil olmaqla, aparıcı süni intellekt tərtibatçıları İİ-nin inkişaf tempinin yavaşladılmasına çağırıblar. Xüsusilə, OpenAI ən yeni süni intellekt modellərinin təlimini müvəqqəti dayandırıb. Şirkət GPT-6.1 Astra modelinin bu qərardan təsirlənmədiyini bəyan edib.

Almaz Həsənli