web analytics

Outro especialista em IA diz que ela pode destruir a humanidade

Compartilhe com a galáxia!
Tempo de leitura: 2 min.
Ouça este artigo...

Depois que antigos e atuais funcionários da OpenAI divulgaram uma carta aberta alegando que estão sendo silenciados contra levantar questões de segurança, um dos signatários da carta fez uma previsão ainda mais aterrorizante: que as chances de a IA destruir ou prejudicar catastroficamente a humanidade são substanciais.

Outro especialista em IA diz que ela pode destruir a humanidade
Crédito da imagem ilustrativa: n3m3/stablediffusionweb.com

Em entrevista ao The New York Times, o ex-pesquisador de governança da OpenAI, Daniel Kokotajlo, acusou a empresa de ignorar os riscos monumentais representados pela inteligência artificial geral (de sigla em inglês, AGI) porque seus tomadores de decisão estão muito encantados com suas possibilidades.

Kokotajlo disse:

“A OpenAI está realmente animada em construir a AGI, e eles estão correndo imprudentemente para serem os primeiros lá.”

A afirmação mais picante de Kokotajlo ao jornal, no entanto, foi que a chance da IA destruir a humanidade é de cerca de 70% – chances que você não aceitaria para nenhum grande evento da vida, mas que a OpenAI e seus aliados estão avançando de qualquer maneira.

O termo ‘p(doom)‘, que significa a probabilidade de que a IA traga a desgraça para a humanidade, é objeto de constante controvérsia no mundo do aprendizado de máquina.

Kokotajlo, de 31 anos, disse ao NYT que, depois que se juntou à OpenAI em 2022 e foi convidado a prever o progresso da tecnologia, ele se convenceu não apenas de que a indústria alcançaria a AGI até o ano de 2027, mas que havia uma grande probabilidade de que isso prejudicaria catastroficamente ou mesmo destruiria a humanidade.

Como observado na carta aberta, Kokotajlo e seus companheiros – que inclui antigos e atuais funcionários do Google DeepMind e da Anthropic, bem como Geoffrey Hinton, o chamado ‘padrinho da IA‘ que deixou a empresa Google no ano passado por preocupações semelhantes – estão afirmando seu “direito de alertar” o público sobre os riscos representados pela IA.

Kokotajlo ficou tão convencido de que a IA representava enormes riscos para a humanidade que, eventualmente, ele pessoalmente pediu ao CEO da OpenAI, Sam Altman, que a empresa precisava “se voltar à segurança” e passar mais tempo implementando grades de proteção para reinar na tecnologia em vez de continuar a torná-la mais inteligente.

Altman, segundo o relato do ex-funcionário, parecia concordar com ele na época, mas com o tempo parecer ser apenas uma lábia.

Farto, Kokotajlo deixou a empresa em abril, dizendo a sua equipe em um e-mail que havia “perdido a confiança de que a OpenAI se comportará de forma responsável” enquanto continua tentando construir IA de nível quase humano.

Ele escreveu em seu e-mail, que foi compartilhado com o NYT:

“O mundo não está pronto, e nós não estamos prontos. E estou preocupado que estejamos avançando independentemente e racionalizando nossas ações.”

Entre as saídas de grandes nomes e esse tipo de previsões aterrorizantes, as últimas notícias da OpenAI foram sombrias – e é difícil vê-la ficando mais ensolarada daqui para frente.

A empresa disse em comunicado após a publicação deste artigo:

“Estamos orgulhosos de nosso histórico fornecendo os sistemas de IA mais capazes e seguros e acreditamos em nossa abordagem científica para lidar com o risco. Concordamos que o debate rigoroso é crucial, dada a importância dessa tecnologia, e continuaremos a nos envolver com governos, sociedade civil e outras comunidades ao redor do mundo.

É também por isso que temos caminhos para os funcionários expressarem suas preocupações, incluindo uma linha direta de integridade anônima e um Comitê de Segurança e Proteção liderado por membros de nosso conselho e líderes de segurança da empresa.”

(Fonte)


…E não esqueça: Nossa página principal é atualizada diariamente, com novos artigos podendo ser publicados ao longo do dia. Clique aqui para acessá-la.

ATENÇÃO: Qualquer artigo aqui publicado serve somente para cumprir a missão deste site. Assim, o OVNI Hoje não avaliza sua veracidade totalmente ou parcialmente.

IMPORTANTE: Se puder, colabore para manter o OVNI Hoje no ar, pois cada doação, por menor que seja, é crucial para manter este espaço de informação e conhecimento disponível para todos os interessados. Ao utilizar o QR code do PIX abaixo ou a chave PIX “OVNIHoje” (sem aspas), você está desempenhando um papel fundamental na sustentação deste site.

Lembre-se que as doações não são apenas um ato de generosidade, mas também uma demonstração do seu compromisso em apoiar o compartilhamento de informações relevantes e o crescimento da comunidade interessada em assuntos tão fascinantes, possibilitando a continuação das pesquisas, análises e publicações que enriquecem nosso entendimento.

Seja parte deste movimento contínuo em prol do conhecimento. O OVNI Hoje e seus leitores agradecem sinceramente por seu apoio dedicado.

Agradecimentos aos colaboradores do mês: Edward Vaz Jr. ❤️ Silas Raposo ❤️ Leopoldo Della Rocca ❤️ Egídia L dos Santos ❤️

Muito obrigado!


ÁREA DE COMENTÁRIOS
(Mais abaixo…👇)

ATENÇÃO:


Ads Blocker Image Powered by Code Help Pro

BLOQUEADOR DE ANÚNCIOS DETECTADO!!!

Caro leitor, a existência do OVNI Hoje depende dos anúncios apresentados aqui. Por favor, apoie o OVNI Hoje e desabilite seu bloqueador de anúncios para este site. Obrigado!

hit counter code