Temendo o apocalipse, OpenAI cria time para monitorar super IA
Criadora do ChatGPT, a OpenAI montou uma equipe para monitorar o crescimento da chamada “super IA”: uma inteligência artificial tão desenvolvida a ponto de ficar mais inteligente do que os seres humanos e, na pior hipótese possível, levar à extinção humana.
O objetivo desse time é certificar de que a evolução da inteligência artificial generativa seja benéfica para a humanidade e não tome o caminho contrário. Até o momento, a superinteligência é apenas uma teoria, mas a OpenAI estipula que poderia surgir até o final dessa década.
Quem vigia a super IA?
A organização detalhou o projeto num post de blog assinado pela cofundadora Ilya Sutskever e pelo diretor da nova “polícia” da super IA Jan Leike. Segundo o comunicado, a humanidade ainda não teria uma solução para controlar IAs superinteligentes e evitar que se voltem contra os próprios humanos.
Isso acontece porque, de acordo com a OpenAI, as técnicas atuais de treinamento, controle e aprendizado da IA são feitas a partir de retorno humano e dependem da habilidade humana, mas isso pode chegar a um limite com IAs muito inteligentes. Seriam necessárias, portanto, novas descobertas técnicas e científicas.
A nova equipe de superinteligência deverá criar uma IA de nível humano capaz de gerenciar outras inteligências artificiais após três etapas: desenvolver um método de treinamento, validar os resultados e testar todos os outros canais de alinhamento.
Para isso, a OpenAI abriu vagas para contratação de engenheiros e pesquisadores de machine learning, além de dedicar 20% dos recursos de computação ao projeto. O prazo para obter uma solução é de quatro anos.
Regulamentação da IA é uma discussão constante
A ideia da equipe para monitorar a super IA vai ao encontro de outros projetos da OpenAI para regulamentar o uso dessa tecnologia. Recentemente, os criadores da empresa assinaram um comunicado pedindo pela criação de um órgão regulador internacional para monitorar os avanços desse segmento.
João Marcelo de Assis Peres
joao.marcelo@guiadocftv.com.br
GuiadoCFTV
Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?
Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’
Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br
