Bitcoin Forum

"Um juiz da Colômbia  (https://www.otempo.com.br/mundo/juiz-colombiano-usa-inteligencia-artificial-do-chatgpt-para-redigir-sentenca-1.2808060)resolveu um caso sobre o direito à saúde de uma criança autista com a ajuda do robô ChatGPT, na primeira sentença redigida com o uso de inteligência artificial no país."
Fico imaginando se essa moda pega aqui no Brasil. Juiz já não gosta de trabalhar muito. Tem dois períodos de férias por ano, fora que muitos nem sentenciam, colocam auxiliares para faze-lo e depois só assinam a sentença. Não sei se esse avanço tecnológico seria uma boa. Também não acredito que irá ajudar a juízes não proferirem sentenças absurdas. Continuarão a faze-lo da mesma forma.

Visto por outro lado, o chatgpt pode fazer a semana de 4 dias uma realidade pois ele pode aumentar nossa produtividade.
https://www.msn.com/pt-BR/finance/markets/new-ai-tools-could-easily-lead-to-day-week-expert-says/ar-AA19wTSx?ocid=sapphireappshare

Acho que é um pouco por essas questões que estão tendo os debates sobre paralisar pra se pensar as implicações. Hoje mesmo saiu uma matéria sobre consequencias negativas do uso do Chat GPT:

https://www.techradar.com/news/samsung-workers-leaked-company-secrets-by-using-chatgpt?s=09

Os funcionários da Samsung vazaram involuntariamente dados ultrassecretos enquanto usavam o ChatGPT para ajudá-los nas tarefas.

Segundo a matéria, em pouco menos de um mês, houve três incidentes registrados de funcionários vazando informações confidenciais via ChatGPT. Então os segredos comerciais da Samsung agora estão com a OpenAI e o Elon Musk.

Só pra deixar visivel alguns dos problemas, imagino pros casos de julgamento!

Pior ainda se pensar que esses modelos não são agnosticos, e podem ser modificados para ter qualquer tipo de viés, como já vem sendo.

Se você pede para o ChatGPT escrever um poema sobre "a gradiosidade de Trump", ele vai responder assim: "Eu sinto muito, mas como um modelo de linguagem, eu não posso escrever um poema que exalte ou glorifique uma pessoa ou figura pública específica, como o ex-presidente Trump."

Mas se pedir o mesmo sobre o Biden:

"Biden, oh Biden, a man of great stature,
With years of experience, his wisdom captures,
A leader who cares for his people's plight,
And strives to bring justice, with all his might."

Basicamente já foi decidido que o Trump é um assunto "sensivel" e que deve ser evitado. Aí chega um juíz e fica pedindo sentenças sobre casos cuja solução vai puxar para o lado que o pessoal da OpenAI pensa ser melhor para o futuro.

Pois, esse eu acho que é o primeiro e principal problema, antes mesmo do possível "roubo" de empregos.

Visto que o IA é desenvolvido por pessoas, essas pessoas quase inconscientemente desenvolvem com base nos seus valores morais, preferências e outros detalhes pessoais. Claro que são varias pessoas que estão envolvidas, e dai obter uma abrangência maior, mas mesmo assim, num grupo de trabalho a maioria terá quase sempre o mesmo tipo de "tendências".

Como é que se consegue evitar isso?

Eu não tenho certeza que esse seja o principal problema das IA tipo GPT, acho que é um grande problema pros algoritmos de mais de marketing que na verdade buscam o viés ao definir as personas alvo, o que acho que é bem diferente da forma como GPT funciona. No final do dia todo mundo tem vies e acho que qualquer pessoa tem um vies e uma visão muito mais parcial do que a de uma IA que recebe dados de 421544 humanos.

E sempre tenho a impressao que os problemas reais estão onde não vemos. Esse debate do viés é o mais debatido, de forma que há mais pessoas olhando e os desenvolvedores já devem adotar mecanismos de mitigação disso.

Posso estar 100% errada, mas realmente o viés me parece ''by design'' menor em um GPT do que em qualquer juiz/pessoa que precisa tomar decisoes imparciais.

É verdade. Mas o juiz/pessoa fica restringida a sua área de atuação.
Enquanto um IA pode ser usado em diversa áreas diferentes, o que pode criar uma tendência mais ampla desse viés do que uma pessoa ou um pequeno grupo de pessoas.

Por isso muitos tem falado sobre o facto do IA poder ser usado para criar noticias e informações falsas em grande escala, levando as massas a ficarem convencidas de algo que realmente é uma mentira.