"A atual corrida para uma IA cada vez mais potente representa um salto qualitativo em direção a maiores riscos existenciais para todos os aspetos das nossas vidas", afirmou Volker Turk, num comunicado em que defendeu uma resposta urgente dos Estados e das empresas tecnológicas, depois da ONU já ter pedido aos países para que regulem a IA.

O responsável da ONU destacou particularmente os riscos associados à chamada IA "agêntica", capaz de ir além dos sistemas convencionais e de tomar autonomamente decisões e executar planos para atingir um objetivo específico.

Segundo Turk, as falhas destes sistemas "poderão paralisar serviços essenciais, romper comunicações, desestabilizar infraestruturas críticas e atingir o próprio coração das instituições democráticas".

"Populações inteiras podiam ficar sem acesso a água, aquecimento ou serviços financeiros", avisou Turk.

O alto-comissário alertou igualmente para as consequências da utilização da tecnologia em conflitos, considerando que a IA "está já a acelerar o ritmo das guerras, a alargar o alcance e a corroer as salvaguardas que se interpõem entre nós e o lançamento de armas de destruição maciça".

As declarações surgem depois de responsáveis do setor tecnológico, entre os quais o presidente executivo da Anthropic, Dario Amodei, o presidente executivo da OpenAI, Sam Altman, e o empresário Elon Musk terem defendido um abrandamento deliberado do desenvolvimento dos modelos de IA mais avançados perante riscos como a eventual perda de controlo sobre os sistemas.

Turk defendeu que Estados e empresas devem mobilizar-se com urgência, através de fóruns multilaterais, para estabelecer uma governação da IA assente no direito internacional e na proteção dos direitos humanos.

"Nenhum país pode governar esta tecnologia sozinho, nenhuma empresa deve poder decidir por si própria que riscos o mundo deve aceitar, e nenhuma pessoa deve ser obrigada a abdicar dos seus direitos humanos em troca de promessas de progresso tecnológico", afirmou Turk.