Será que os humanos sobreviverão à AGI?

[Lucasgabd]

Se você está aqui com certeza já ouviu falar de Inteligência Artificial e bem possível que esteja acompanhando os desenvolvimentos e lançamentos do chat GPT

mas e de AGI, já ouviu falar?

segundo a wikipedia:

Artificial general intelligence (AGI) is the ability of an intelligent agent to understand or learn any intellectual task that human beings or other animals can.[1][2] It is a primary goal of some artificial intelligence research and a common topic in science fiction and futures studies. AGI is also called strong AI,[3][4][5] full AI,[6] or general intelligent action,[7] although some academic sources reserve the term "strong AI" for computer programs that experience sentience or consciousness.[a]

Strong AI contrasts with weak AI (or narrow AI),[8][4] which is not intended to have general cognitive abilities; rather, weak AI is any program that is designed to solve exactly one problem. (Academic sources reserve "weak AI" for programs that do not experience consciousness or do not have a mind in the same sense people do.)[a]

A 2020 survey identified 72 active AGI R&D projects spread across 37 countries.[9]

ok, até aí tudo tranquilo
qual a questão?

alguma pessoas bem inteligentes acreditam que o desenvolvimento de uma AGI trará o fim da raça humana na Terra

viram o podcast do Elizer no Bankless?
159 - We’re All Gonna Die with Eliezer Yudkowsky

Parece alarmista mas o próprio Elon já fala sobre isso faz algum tempo. (lembrete que Elon foi co-fundador da OpenAI)

Em São Francisco, Estados Unidos, já criaram até um museu com uma obra/possibilidade futurista em que a AGI mata uma parcela gigante da humanidade mas se arrepende antes de terminar o trabalho, se chama Misalignment Museum

duas imagens que não embedaram:
https://lh3.googleusercontent.com/_EJaJ9MW6D_2fd9mjCouuaodgdPgQsgsxN57IpndSHTddvTDcarbYZzf5n5z_cjEtuenkjs1oYkTWfmN0Ne2wq80lZytIdhAUVTU8YgiaJ9GhYxs-_eVzJn9z5HcPgl9yA=w1280

https://lh6.googleusercontent.com/_N2ME1rmODA6_K5ZyWWlQ-rt4MjdJTBza3Tz433ckAOhXLeLVFh2cnRK6Ep99tuVgCqSvmRSoncgEmr4IodWZL_TdCFL4rq_pPTxBBhKFUSPmiTmFG7cVtdAUXcxCq7R3A=w1280

O que você acha?
Possibilidade ou delírio ficcional?


Esse post foi escrito com o Chat GPT-4, brincadeira, foi artesanal mesmo como nos velhos tempos.

[joker_josue]

Sinceramente, duvido que as coisas cheguem a esse nivel. Por dois motivos:

- Se as coisas forem nesse caminho, antes que isso possa acontecer, os governos já fizeram esse trabalho, antes de o tal AGI esteja pronto e faça esse tipo de aniquilação. 
- Dentro de pouco tempo, termos os governos a criarem regras e leis para o desenvolvimento e implementação desse tipo de tecnologia.


Pode eventualmente, ser desenvolvido algo do género a nível militar, mas mesmo assim tenho algumas duvidas que chegue a esse ponto. Até porque como disse, acho que os humanos fazem isso primeiro, sem ajudas de IA.

[alegotardo]

alguma pessoas bem inteligentes acreditam que o desenvolvimento de uma AGI trará o fim da raça humana na Terra

Humanos sempre foram gananciosos, desenvolvem mais e mais, visando sempre a extração de recursos ou informações a níveis descontrolados sem as devidas precauções afim de abocanhar o público antes da concorrência.

Muitos acreditavam que nossa extencição viria pelo esgotamento dos recursos naturais ou mudanças climáticas, mas eu sou um dos que acredita que ela virá pela tecnologia.

Sim!!! Sou um dos que acreditam que essa nova era de IA irá acabar com a raça humana.

Lenta e gradativamente, afinal... os "robôs" ainda vão precisar de nós como escravos para continuarem sobrevivendo, algo do tipo à "nos convencer" de que precisamos implantar um chip em nosso cérebro ou algo do tipo.

[joker_josue]

Lenta e gradativamente, afinal... os "robôs" ainda vão precisar de nós como escravos para continuarem sobrevivendo, algo do tipo à "nos convencer" de que precisamos implantar um chip em nosso cérebro ou algo do tipo.

Isso é muito Skynet... do Terminator. Quem será o verdadeiro John Connor?  

Ao não digo que isso seja inpossível, digo apenas é que se o rumo for esse, "os humanos" destroem-se a si próprios primeiro.

[Lucasgabd]

o ponto é que com o desenvolvimento exponencial da tenologia talvez ela fique difícil demais de controlar muito rapidamente...
veremos

sou um eterno otimista mas não descarto essa possibilidade também

a coisa mais assustadora é pensar que uma AGI não teria necessariamente impulso de auto-preservação... pulsão de vida...

[Disruptivas]

Eu acho que estamos razoavelmente longe das IA ''proativamente'' buscarem destruir nossas vidas. Mas acho que estamos perto das ferramentas de IA que vão arruinar nossas vidas. Essas questões de deepfake por exemplo. Acho que todo o sistema financeiro é construido hoje de forma a não estarmos preparados para os problemas que vamos enfrentar. E a medida que as pessoas perdem dinheiro e são expostas a cada vez mais riscos e golpes, piorando o contexto economico geral, empurrando mais pessoas para a margem da sociedae, de uma alguma, estamos indo para nossa destruicao.