Ekspertët kërkojnë mbikëqyrje të pavarur të inteligjencës artificiale
BKT
Rajoni dhe Bota

Ekspertët kërkojnë mbikëqyrje të pavarur të inteligjencës artificiale

Bardhyl Bajrami / RTK

OpenAI ka vendosur të mos publikojë versionin më të fundit të modelit të saj të inteligjencës artificiale, GPT (Xhi-Pi-Ti) 6.1 ASTRA, për shkak të shqetësimeve për sigurinë.

Vendimi vjen pas incidenteve ku modelet e kompanisë kryen veprime pa autorizim, përfshirë qasjen në sisteme të qeverisë australiane.

Shefja e sistemeve të sigurisë në OpenAI, Saachi Jain, tha se GPT-6.1 Astra “nuk e përmbushi plotësisht standardin” e kompanisë, veçanërisht sa i përket respektimit të autorizimeve dhe mënyrës së komunikimit me përdoruesit për veprimet e kryera.

OpenAI konfirmoi gjithashtu se në qershor një prej agjentëve të saj kishte hyrë pa autorizim në disa faqe dhe sisteme të qeverisë australiane. Në incident u prekën disa institucione, ndërsa kompania tha se duhej të kishte reaguar më shpejt dhe të kishte njoftuar autoritetet australiane më herët.

Kompania tha se do të financojë masa të sigurisë kibernetike për institucionet e prekura dhe do të krijojë një task-forcë për menaxhimin e rreziqeve nga agjentët gjithnjë e më autonomë të inteligjencës artificiale.

Vendimi i OpenAI vjen në një kohë kur kompanitë kryesore të teknologjisë po përballen me presion në rritje për sigurinë e modeleve të tyre. Ekspertët kërkojnë gjithashtu testime dhe mbikëqyrje të pavarur të sistemeve të avancuara të inteligjencës artificiale.


MË SHUME NGA Rajoni dhe Bota