Vitalik Buterin critica os modelos de agentes de IA e defende mais participação humana

O cofundador do Ethereum criticou o foco do setor de IA em modelos “agênticos”, afirmando que o excesso de sistemas autônomos não é bom.

Atualizado em 3 mins read
Vitalik Buterin critica os modelos de agentes de IA e defende mais participação humana

Resumo da notícia

  • Vitalik Buterin argumentou que os sistemas que permitem uma maior participação humana produzem resultados mais seguros e de maior qualidade.
  • O fundador do Ethereum manifestou o seu apoio a modelos de IA com fortes capacidades de edição.
  • Vitalik partilhou sua visão sobre a tecnologia de interface cérebro-computador.

O cofundador do Ethereum, Vitalik Buterin, expressou preocupações sobre o desenvolvimento da indústria de agentes de inteligência artificial (IA). Ele criticou esses modelos de IA, afirmando que o foco da indústria mudou para trazer muita automação aos sistemas.

Em uma postagem recente, Buterin concordou com o ex-diretor de IA da Tesla, Andrej Karpathy, argumentando que permitir mais vias para a intervenção humana pode melhorar a qualidade da produção e aumentar a segurança.

Ademais, disse que está mais entusiasmado com os modelos de IA chamados open-weight, que têm fortes capacidades de edição.

Open-weight refere-se aos pesos e vieses finais de uma rede treinada. Esses valores, uma vez bloqueados, determinam como o modelo interpreta os dados de entrada e gera saídas.

Tecnologia de interface cérebro-computador

Além disso, Buterin compartilhou uma visão para a tecnologia de interface cérebro-computador (BCI). Isso significa exibir o conteúdo à medida que fosse gerado, medir reações em tempo real e ajustar-se de acordo.

Em casos de uso prático, os modelos de IA com contribuição humana e os modelos de IA com sistemas inteligentes autônomos, que realizam tarefas específicas sem intervenção humana, têm seus próprios benefícios.

Você também pode se interessar por essa leitura – IA no mercado de trabalho: riscos de demissões são exagerados.

A IA com intervenção humana oferece maior qualidade de produção e supervisão. Ou seja, permite que as pessoas adicionem contexto, identifiquem erros e estabeleçam limites. Isso torna o sistema mais confiável e menos vulnerável a erros graves.

Por outro lado, a IA totalmente autônoma pode operar em grande escala e velocidade. Pode, por exemplo, oferecer soluções criativas além da imaginação humana ou do controle direto.

No entanto, remover a supervisão humana aumenta significativamente o risco. Afinal, uma única saída defeituosa pode se espalhar rápida e amplamente.

Buterin tem uma mensagem para as empresas do tesouro do ETH

Em outro desenvolvimento, Buterin alertou as empresas do tesouro do Ethereum, que estão correndo para acumular ETH e evitar qualquer tipo de `alavancagem excessiva`.

A Bitmine Technologies e a SharpLink Gaming estão na corrida pela forte acumulação de ETH, com a primeira a ultrapassar 1 milhão dessas altcoins.

Na segunda-feira (11/08), a Bitmine informou que suas participações em Ethereum valem mais de US$ 4,96 bilhões. A empresa detém 1.150.263 ETH, ao preço de US$ 4.311 por token, posicionando-se como o maior tesouro Ethereum do mundo.

Disclaimer: Coinspeaker está comprometido em fornecer reportagens imparciais e transparentes. Este artigo tem como objetivo fornecer informações precisas e oportunas. Mas não deve ser considerado como conselho financeiro ou de investimento. Como as condições do mercado podem mudar rapidamente, recomendamos que você verifique as informações por conta própria. E consulte um profissional antes de tomar qualquer decisão com base neste conteúdo.

Notícias de Ethereum