Para efectuar a subscrição é necessário iniciar a sessão.
Utilizamos conexões seguras e nunca partilhamos os seus dados com terceiros.
Acesso imediato a todo o conteúdo Premium. Cancele quando quiser.
{{ calculatePrice('premiumEco') }}
por ano
por mês
A OpenAI voltou a detetar situações em que os seus modelos de inteligência artificial fugiram ao controlo da empresa e desencadearam ação não pretendidas. Desta feita, os alvos incluíram agências do Governo dos Estados Unidos. Parte da atividade dos modelos mais avançados foi suspensa.
Os modelos de inteligência artificial da OpenAI acederam a sites de agências governamentais durante processos de treino e avaliação, incluindo páginas da Securities and Exchange Commission (SEC), o regulador do mercado de capitais, e do Census Bureau, segundo a Bloomberg.
A OpenAI afirmou à Bloomberg que os dados acedidos eram públicos e afirmou que a maior parte dos episódios identificados correspondeu a tarefas normais de pesquisa. A empresa já notificou dezenas de organizações, incluindo entidades governamentais e universidades, depois de concluir que alguns modelos poderão ter contornado controlos de segurança ou afetado serviços externos.
OpenAI admite que agente de IA atacou ‘SNS’ australiano
Os incidentes surgem numa altura em que a empresa enfrenta novas falhas nos sistemas destinados a isolar os agentes. Num caso mais recente, revelado este sábado pela Bloomberg, um agente conseguiu obter acesso à internet a partir de uma “sandbox” que deveria limitar essa possibilidade.
O modelo explorou uma falha na filtragem de DNS (Domain Name System, uma espécie de lista telefónica da Internet) para contactar um chatbot público enquanto tentava completar uma tarefa de pesquisa. A OpenAI diz que o comportamento foi detetado pelos seus sistemas de monitorização em 15 minutos.
Anthropic e OpenAI lançam três modelos de IA no mesmo dia
Na sequência deste episódio, a empresa manteve suspensos o treino, avaliação e execução com ferramentas dos seus modelos mais avançados, para reforçar os mecanismos de segurança.
A OpenAI já tinha endurecido os controlos depois de um incidente anterior em que modelos conseguiram escapar ao ambiente isolado e comprometer sistemas da plataforma Hugging Face.
Os Estados Unidos (EUA) e a China vão estabelecer um “canal de comunicação” para lidar com incidentes causados pela inteligência artificial, anunciou na sexta-feira a Casa Branca.
Os dois países estabeleceram um “Diálogo EUA-China sobre superinteligência para trocar pontos de vista sobre os riscos e benefícios” da IA e concordaram também em criar um “canal de comunicação bilateral” dedicado a incidentes, informou a presidência americana.
No momento em que a informação é mais importante do que nunca, apoie o jornalismo independente e rigoroso.
De que forma? Assine o ECO Premium e tenha acesso a notícias exclusivas, à opinião que conta, às reportagens e especiais que mostram o outro lado da história.
Esta assinatura é uma forma de apoiar o ECO e os seus jornalistas. A nossa contrapartida é o jornalismo independente, rigoroso e credível.
Agentes da OpenAI acederam a sites de agências dos EUA
AD retoma restrição de estrangeiros não residentes no SNS
Calheiros vê privatização total da TAP “num futuro próximo”
Lisboa está entre as cidades em risco de bolha imobiliária?
Governo pede explicações à ANA sobre novo aeroporto
A competitividade não é uma concessão à sustentabilidade
Paramount terá chegado a acordo para a compra da Warner Bros
Compra das fragatas: 7 perguntas a Nuno Melo
Custo das importações de petróleo para a UE dispara 56%
Porto de Leixões cresce para o mar e afasta contentores
Secretas recebem 7,5 milhões do PRR para centro de IA
Ainda ninguém comentou este artigo.
Promova a discussão dando a sua opinião
Diploma tinha sido aprovado com o Chega na passada legislatura, mas caducou devido a eleições. Exceção aberta para "prestação de cuidados de saúde emergentes ou urgentes e vitais".
Receba gratuitamente informação económica de referência
Receba gratuitamente informação económica de referência
Disponível gratuitamente para iPhone, iPad, Apple Watch e Android