Musk, Wozniak e líderes tech pedem pausa em IA e sistemas como ChatGPT

[bitmover]

Em carta aberta, lideranças do setor e especialistas defendem que é preciso desenvolver protocolos de segurança compartilhados antes que seja tarde demais

https://www.bloomberglinea.com.br/2023/03/29/musk-e-lideres-da-tecnologia-pedem-pausa-no-avanco-de-sistemas-como-o-chatgpt/

Achei interessante
 Várias personalidades de tecnologia e até de outras áreas como o Hariri vêm há anos alertando sobre os riscos do AI.

Recentemente uma foto do papa , feita por AI, viralizou e ngm sabia q era falsa


Os riscos estão aumentando. Nesse caso foi uma coisa inofensiva, mas imagina os riscos que isso pode causar no planeta? Pode implicar problemas políticos e econômicos criados por informações ou imagens falsas vindas de uma AI.

O que será que vem por aí. ? Como seriam esses protocolos de segurança.?

[1714852842]

1714852842

[joker_josue]

Os riscos estão aumentando. Nesse caso foi uma coisa inofensiva, mas imagina os riscos que isso pode causar no planeta? Pode implicar problemas políticos e econômicos criados por informações ou imagens falsas vindas de uma AI.

O que será que vem por aí. ? Como seriam esses protocolos de segurança.?

Já há muito tempo que tem vindo a surgir fotos e vídeos, em especial de políticos, falsos que espalham informação falsa.

Então, rapidamente tem de surgir protocolos de segurança. Resta depois saber, como é que os governos vão conseguir implementa-los a nível global.

[alegotardo]

O que será que vem por aí. ? Como seriam esses protocolos de segurança.?

Cara, para quem hoje não tem absolutamente nada!
Definições bestas básicas do que uma IA pode ou não fazer já seriam um progresso enorme.

Em filmes a gente vê coisas como "jamais matar ou causar dor a um humano", mas acredito que apesar de, sim, isso ser importante, não é essa a questão que precisa ser discutida nesse momento, mas sim algo mais básico como aquilo que já li por aí:
IA podem substituir humanos em qualquer tipo de trabalho?
Quais são os limites morais que devem ser impostos à IA?

Esa última é por exemplo uma pergunta difícil de responder, pois até mesmo em tribunais de sentença ela é muito subjetiva e a decisão é bem pessoal de cada juiz, imagina então ter que colocar isso em "código fonte" ou ensinar esse limite à IA de uma forma que ela não irá extrapolar.

[joker_josue]

Esa última é por exemplo uma pergunta difícil de responder, pois até mesmo em tribunais de sentença ela é muito subjetiva e a decisão é bem pessoal de cada juiz, imagina então ter que colocar isso em "código fonte" ou ensinar esse limite à IA de uma forma que ela não irá extrapolar.

Não consegues! Apesar de haver padrões morais, iguais ou semelhantes entre todos os humanos, cada um de nós estabelece os padrões de moral que quer seguir. Uns fazem umas coisas que outros preferem não fazer. Então, os padrões que irão ser usados no IA vai depender dos padrões que o programador tem.

Por exemplo, para ti matar é uma coisa errada, mas para um talibã isso já não é bem assim. O teu IA iria ter esse padrão, ou IA do talibã não.

[rdluffy]

Minha opinião é que já começou e não tem volta, sempre tem alguém que dará continuidade no desenvolvimento apesar de qualquer limitação.

Entraremos em uma era onde poderemos ter que pensar sobre a ética e filosofia aplicada nas IA, porém não conseguimos chegar em um acordo com nós humanos, imagina quão confuso será.
Infelizmente o ser humano usa muita coisa para o mal, e a IA será mais uma delas, não tenho dúvidas.

Outra coisa a se pensar, não sei se estou viajando muito, mas os trabalhadores que usam o intelecto podem sofrer muito com isso, inutilizando alguns cargos, e os trabalhadores braçais que já perderam trabalhos pelo uso de robôs e indústrias, podem ser mais valorizados, pois a IA não consegue atingir essa área.

[vinipoars]

Faz tempo que não passo por aqui. Alguém sabe se o GPT 4 já foi capaz de criar uma moeda do zero? Acredito que não seja impossível pra ele, quando a gente vê a evolução dele pro 3.5 em termos de capacidade/quantidade de linhas de programação, menor número de erros nos códigos, etc.
 
Acho que em breve teremos uma proliferação gigantesca de shitcoins criadas a partir de um comando do tipo:
- Ô, chatGPT, cria aí uma moeda pra mim, faz favor!" 


Como curiosidade, a resposta a uma pergunta simples sobre como criar uma moeda virtual, feita ao 3.5:

Para criar uma criptomoeda, existem alguns passos técnicos iniciais que você pode seguir:

    Definir o objetivo: Antes de criar uma criptomoeda, é importante definir o objetivo para a qual a moeda será usada. Isso inclui entender quem será o público-alvo, qual será o uso principal da moeda e quais serão os benefícios para os usuários.

    Escolher o algoritmo de consenso: O algoritmo de consenso é o mecanismo que garante que as transações sejam validadas e registradas na blockchain. Existem vários algoritmos de consenso, como Proof of Work (PoW), Proof of Stake (PoS), Delegated Proof of Stake (DPoS) e outros. É importante escolher um algoritmo que atenda aos objetivos da sua criptomoeda.

    Escolher a plataforma: Você pode escolher uma plataforma existente como o Ethereum ou criar a sua própria blockchain. Se optar por criar a sua própria blockchain, você precisará definir as especificações técnicas para a rede, como o tamanho do bloco, a velocidade de transação, o tamanho máximo do bloco, etc.

    Escolher a linguagem de programação: Você precisará escolher uma linguagem de programação que será usada para desenvolver a sua criptomoeda e a sua blockchain. Algumas opções populares incluem C++, Java, Python, entre outras.

    Desenvolver a criptomoeda: Depois de ter definido os aspectos técnicos da sua criptomoeda, você precisará desenvolvê-la. Isso inclui criar um whitepaper, desenvolver o código-fonte, criar uma carteira digital e testar a moeda em um ambiente de teste.

    Promover a criptomoeda: Depois de ter criado a sua criptomoeda, é importante promovê-la para atrair usuários e investidores. Isso pode incluir a criação de um site, participação em fóruns e redes sociais e a criação de campanhas publicitárias.

    Lançar a criptomoeda: Depois de ter concluído os passos anteriores, você pode lançar a sua criptomoeda e começar a negociá-la em bolsas de criptomoedas. É importante estar preparado para lidar com questões de segurança e regulamentação.

[joker_josue]

Faz tempo que não passo por aqui. Alguém sabe se o GPT 4 já foi capaz de criar uma moeda do zero? Acredito que não seja impossível pra ele, quando a gente vê a evolução dele pro 3.5 em termos de capacidade/quantidade de linhas de programação, menor número de erros nos códigos, etc.

Acredito que seja possível. Se alguém o fez, não sei. Mas acredito que sim, agora deverá ter muitos erros e será bem fácil fazer hack.

É um pouco com o receio do surgimento de mais software maliciosos, que estes "famosos" escreveram esta carta aberta, para abrandar o desenvolvimento desta tecnologia.

[Disruptivas]

Em filmes a gente vê coisas como "jamais matar ou causar dor a um humano", mas acredito que apesar de, sim, isso ser importante, não é essa a questão que precisa ser discutida nesse momento, mas sim algo mais básico como aquilo que já li por aí:
IA podem substituir humanos em qualquer tipo de trabalho?
Quais são os limites morais que devem ser impostos à IA?

Esa última é por exemplo uma pergunta difícil de responder, pois até mesmo em tribunais de sentença ela é muito subjetiva e a decisão é bem pessoal de cada juiz, imagina então ter que colocar isso em "código fonte" ou ensinar esse limite à IA de uma forma que ela não irá extrapolar.

Sobre a pergunta da substituição, eu acho que sim e nã. Mas não me parece uma pergunta que geraria frutos em termos de '' questão a ser discutida''. Por exemplo, nos ultimos meses eu tenho usado o chat gpt pra várias coisas que poderia ser um humano fazendo, em diversos aspectos, desde questões legais, até de marketing, criatividade e operacional. Acho que as IA tem potencial de ajudar em todos os tipos de trabalho - pelo menos muitos dos intelectuais - mas não é uma pergunta que precise ser regulada. Potencialmente a resposta é sim pra quase todas as areas, mas nenhuma delas sem um humano. Mas acho que independente da atividade, por muito tempo, vamos precisar o check/ajuste humano. E sem dúvida, deveria sempre ter um humano se responsabilizando pelas ações que envolvam riscos - desde criar prédios a atividades de medicina.

[alexrossi]

Minha opinião: o desenvolvimento das IA nao vai parar porque sempre irà ter uma jurisdição que vai permitir o uso descontrolado. E sim, isso vai levar a mais fake news, fotos que parecem reais e em "edição" da historia passada.

O que vai ter mais foco, após esses inúmeros problemas, vao ser os eventos presenciais, aonde as pessoas vao ter razoável certeza de nao serem enganadas por um computador.