Ganhador do Nobel de Física alerta para riscos da Inteligência Artificial não controlada

Última Atualização 08/10/2024

0 0

John Hopfield, investigador americano e recente vencedor do Prêmio Nobel de Física por suas contribuições pioneiras em Lucidez Sintético (IA), fez um alerta nesta terça-feira, 8. Ele expressou preocupação com os avanços recentes da IA e alertou para a possibilidade de catástrofes caso esses sistemas não sejam controlados adequadamente.

O professor emérito da Universidade de Princeton defendeu uma melhor compreensão do funcionamento dessas tecnologias para evitar que se tornem incontroláveis. Em um vídeo gravado diretamente do Reino Uno para uma conferência na Universidade de Novidade Jersey, o investigador de 91 anos mencionou o surgimento de outras duas poderosas tecnologias durante sua vida: a engenharia biológica e a física nuclear.

Preocupações com a falta de controle

“Estamos acostumados a tecnologias que não são exclusivamente boas ou más, mas que podem funcionar em ambas as direções”, disse Hopfield. “Porquê físico, estou muito preocupado com um tanto que não está controlado, um tanto que não entendo o suficiente para saber quais limites poderiam ser impostos a essa tecnologia”, acrescentou.

Segundo o investigador, os sistemas de IA modernos parecem “maravilhas absolutas”, mas ainda há uma compreensão insuficiente de porquê realmente funcionam, o que é “muito, muito preocupante”. Hopfield reforçou seu pedestal à premência de um entendimento mais profundo dessa tecnologia, assim porquê defende seu colega Geoffrey Hinton, outro vencedor do Prêmio Nobel.

Preocupação crescente com a IA

A crescente corrida entre empresas para dominar o mercado de Lucidez Sintético levou alguns críticos a apontarem que essa tecnologia está evoluindo mais rápido do que os cientistas conseguem seguir. Hopfield e Hinton, conhecidos por seus trabalhos na extensão de redes neurais, foram premiados por pesquisas que remontam à dez de 1980, as quais formam a base dos sistemas de estágio profundo usados atualmente.

O Nobel de Química será entregue na quarta-feira, e os prêmios de Literatura e da Sossego serão anunciados na quinta e sexta-feira. A temporada de 2024 dos prêmios Nobel será encerrada no dia 14 de outubro com a entrega do Nobel de Economia.

1/10

(O supercomputador Fugaku é líder mundial em desempenho. É vital para pesquisas científicas avançadas e desenvolvimento tecnológico no Japão)
2/10

(Com potência fabuloso, o supercomputador americano Summit apoia avanços em perceptibilidade sintético e simulações científicas complexas.)
3/10

(Focado em segurança vernáculo, o supercomputador Sierra realiza simulações críticas para o Departamento de Força dos EUA.)
4/10

(Reconhecido por sua velocidade, o supercomputador Sunway TaihuLight impulsiona inovações em computação de subida performance na China.)
5/10

(O supercomputador Tianhe-2 é uma utensílio necessário para a China em pesquisa científica e projetos de grande graduação.)
6/10

(O supercomputador americano Frontier representa a vanguarda da computação ‘exascale’, acelerando a inovação em várias disciplinas científicas.)
7/10

(O supercomputador Piz Daint, da Suíça, é fundamental para pesquisas climáticas e modelagem ambiental de precisão.)
8/10

(Utilizado pela Nvidia, o supercomputador Selene acelera desenvolvimentos em estágio de máquina e perceptibilidade sintético.)
9/10

(Construído pela Dell, o HPC5 é crucial para a multinacional Eni na exploração energética e simulações geofísicas detalhadas.)
10/10

(Nomeado em homenagem ao físico Saul Perlmutter, o supercomputador americano Perlmutter é necessário para astrofísica e cosmologia.)