El CEO d'OpenAI, Sam Altman, ha anunciat que la tecnològica creadora de ChatGPT no sortirà a borsa aquest any davant dels riscos de seguretat que presenten els models avançats d'intel·ligència artificial. "Seria un moment poc aconsellable per sortir al mercat borsari", ha afirmat el director executiu d'OpenAI en una entrevista amb la revista Fortune.
Altman ha emfatitzat que la matriu tecnològica encara té "moltes coses a fer respecte al que es requerirà per a la seguretat i l'alineació", al mateix temps que ha insistit que la companyia està disposada a prendre decisions "contràries al benefici financer immediat" dels seus inversors per "salvaguardar" el control humà sobre la tecnologia.
El CEO d'OpenAI també ha reconegut que la companyia ha estat alentint alguns processos d'entrenament i ha qualificat d'"inacceptable" qualsevol escenari en el qual existeixi una possibilitat del 10% d'una catàstrofe derivada de la falta de control sobre programaris d'intel·ligència artificial. "Tots tenim una enorme responsabilitat i no podem permetre que els egos, els incentius econòmics, ni altres factors s'interposin en el camí", ha subratllat Altman.
Anthropic advoca per "baixar el ritme"
En aquesta mateixa línia, el conseller delegat d'Anthropic, Dario Amodei, va advocar per "baixar el ritme" de desenvolupament de la intel·ligència artificial i va advertir que es corre el risc de "perdre el control" d'aquesta tecnologia i provocar "atacs informàtics", "bioterrorisme" o "greus problemes econòmics greus".
"Hem de baixar el ritme a què millorem les capacitats dels models d'IA. Els avanços continuarien sent ràpids i aprofitaríem sàviament el temps que guanyaríem", va afirmar Amodei en un text publicat aquest dissabte en el seu blog. Posa com a exemple el risc que la IA prengui el control d'internet en un termini d'entre 6 i 12 mesos. Per això proposa mesures de seguretat i normativa sense deixar de tenir "èxit comercial".
En concret planteja mesures tals com una "avaluació incorporada" per part d'actors independents, "coordinació democràtica" amb les institucions públiques i "coordinació global" que uneixi els esforços dels països democràtics i els autoritaris a nivell mundial.
