Cientistas alertam: IA pode ser mais mortal que armas nucleares
Pesquisadores da Universidade de Oxford alertaram os legisladores do Reino Unido que a ‘IA sobre-humana’ (Inteligência Artificial) pode acabar sendo pelo menos tão perigosa quanto as armas nucleares e, portanto, deve ser regulamentada como elas, relata o The Telegraph.
Os especialistas disseram aos parlamentares do Comitê de Ciência e Tecnologia do governo do Reino Unido sobre os perigos das tecnologias de inteligência artificial não regulamentadas – e eles não rodearam exatamente o arbusto.
O estudante de doutorado, Michael Cohen, disse aos parlamentares, conforme citado pelo The Telegraph:
“Com a IA sobre-humana, existe um risco particular de um tipo diferente de classe, que é, bem, pode matar todo mundo.”
Apocalipse IA
Esses riscos são realmente prementes, com poderes políticos cada vez mais tentando se superar no campo da IA.
Michael Osborne, professor de aprendizado de máquina na Universidade de Oxford, que também participou da reunião do comitê, alertou sobre uma “corrida enorme de IA” entre os EUA e a China, que estão dispostos a “jogar segurança e cautela pela janela e correr o mais rápido possível para a IA mais avançada“.
Osborne disse:
“Há algumas razões para termos esperança de que fomos muito bons em regular o uso de armas nucleares. Se fôssemos capazes de entender que a IA avançada é um perigo tão comparável quanto as armas nucleares, talvez pudéssemos chegar a estruturas semelhantes para governá-la.”
O treinamento de IAs para atingir um marco ou colher uma recompensa pode ser particularmente perigoso, disse Cohen.
Ele disse aos legisladores:
“Se você imaginar treinar um cão com guloseimas, ele aprenderá a escolher ações que o levem a receber guloseimas. Mas se o cão encontrar o armário de guloseimas, ele pode pegar as guloseimas sem fazer o que queríamos que ele fizesse.”
Em outras palavras, uma IA sobre-humana corre o risco de direcionar “o máximo de energia possível para garantir seu domínio” em uma recompensa, que “nos deixaria sem energia para nós mesmos“.
À medida que essas tecnologias progridem, precisamos ter a capacidade de “puxar o plugue” se elas se tornarem “muito mais inteligentes do que nós em todos os domínios” argumentou Cohen.
E estamos apenas arranhando a superfície. Cohen e Osborne previram que IAs mais capazes do que os humanos poderiam surgir já no final do século, algo que poderia ser evitado com a regulamentação correta.
(Fonte)
Mas lembre-se, mesmo se tivermos a capacidade de puxar o plugue para desligar uma IA que comece a “se achar”, sempre haverá um “louquinho humano” que irá achar que ela tem todo o direito de ficar ativa e impedirá o processo sem que o resto de nós saiba. A história humana está repleta desses “louquinhos”. Assim, todo o cuidado é pouco.
n3m3
Compartilhe com a galáxia!
…E não esqueça: Nossa página principal é atualizada diariamente, com novos artigos podendo ser publicados ao longo do dia. Clique aqui para acessá-la.
ATENÇÃO: Qualquer artigo aqui publicado serve somente para cumprir a missão deste site. Assim, o OVNI Hoje não avaliza sua veracidade totalmente ou parcialmente.
IMPORTANTE: Se puder, colabore para manter o OVNI Hoje no ar, pois cada doação, por menor que seja, é crucial para manter este espaço de informação e conhecimento disponível para todos os interessados. Ao utilizar o QR code do PIX abaixo ou a chave PIX “OVNIHoje” (sem aspas), você está desempenhando um papel fundamental na sustentação deste site.
Lembre-se que as doações não são apenas um ato de generosidade, mas também uma demonstração do seu compromisso em apoiar o compartilhamento de informações relevantes e o crescimento da comunidade interessada em assuntos tão fascinantes, possibilitando a continuação das pesquisas, análises e publicações que enriquecem nosso entendimento.
Seja parte deste movimento contínuo em prol do conhecimento. O OVNI Hoje e seus leitores agradecem sinceramente por seu apoio dedicado.
Agradecimentos aos colaboradores do mês: Edward Vaz Jr. ❤️ Silas Raposo ❤️ Franklin Viana ❤️Leopoldo Della Rocca ❤️ Jessica Luana de Souza ❤️
Muito obrigado!
ÁREA DE COMENTÁRIOS
(Mais abaixo…👇)
ATENÇÃO:
-Os comentários são de responsabilidade única e exclusiva de cada pessoa que comenta, portanto aja com responsabilidade.
-O OVNI Hoje não se responsabiliza por transtornos, rixas ou quaisquer outras disposições causadas pelos comentários.
-Comente educadamente e com ética, sempre tratando seu colega de comentários como você mesmo queira ser tratado.
-Comentários com “pregação” política ou religiosa, obsceno ou inapropriado serão prontamente apagados.
-Se não concordar com o que foi escrito por outros colega e quiser fazer um contraponto, limite-se a defender seu ponto de vista sem ataques pessoais. Aqueles que fizerem comentários com ataques pessoais diretos ou indiretos a outros participantes serão banidos.
-AJUDE NA MODERAÇÃO JUSTA DA ÁREA DE COMENTÁRIOS: Como pode ser visto na foto abaixo, no canto superior direito de cada comentário há uma pequena bandeira que, quando clicada, marca um comentário como “inapropriado“. Utilize-a com responsabilidade para alertar os moderadores sobre alguém que não esteja seguindo as regras da área de comentários.
-O respeito mútuo é essencial para bom andamento da área de comentários. Evite ser banido.
-O USUÁRIO QUE TENTAR DESOBEDECER AS REGRAS ACIMA SERÁ BANIDO, SEM RECURSOS.