Quais os perigos de usar inteligência artificial?

Inteligência articial, é tarde demais?

Embora o uso de inteligência articial possa trazer muitos benefícios, também existem riscos e desafios associados a essa tecnologia. Aqui estão alguns perigos potenciais que devem ser levados em consideração:

Viés e discriminação:

Os modelos de machine learning podem refletir e amplificar o preconceito humano, perpetuando desigualdades e discriminação contra determinados grupos de pessoas. Máquinas são máquinas, o machine learning simula o processo de aprendizagem humano ela é basicamente um bebê tentando entender os estimulos que ocorrem a sua volta.

Assim como as crianças podem absorver viéses preconceituosos sobre diversos temas, as redes neurais artificiais também podem “aprender” sobre o que é certo e errado de acordo com o nivel e estrutura de dados que ela é treinada.

o Documentário “The coded bias” mostra com claresa de como esse viés pode aparecer no aprendizado da máquina.

Falta de transparência:

Alguns modelos de machine learning são tão complexos que é difícil entender como eles tomam suas decisões. Isso pode tornar difícil responsabilizar o sistema quando algo dá errado. Será que podemos culpar o algoritmo quando ele foi usado para te influenciar?

Ameaças à privacidade:

O machine learning pode coletar grandes quantidades de dados pessoais, o que pode levar à violação da privacidade das pessoas.

E deveras isso já é fato, as redes sociais e mecanismos de buscas já coletam e conhecem você, talvez até melhor do que você mesmo!

O Documentário “Dilema das redes na NetFlix aborda esse assunto” – recomendo.

Falhas do Sistema:

Os modelos de machine learning são tão bons quanto os dados em que foram treinados e, se os dados forem imprecisos, incompletos ou mal rotulados, o sistema pode falhar ou tomar decisões ruins.

Dependência da tecnologia:

À medida que a tecnologia de machine learning se torna mais sofisticada e ubíqua, pode haver uma tendência a depender demais dela e confiar em suas decisões sem questionar. Isso pode levar a erros graves.

Para mitigar esses perigos, é importante adotar práticas responsáveis de desenvolvimento de modelos de machine learning, incluindo a realização de auditorias de dados e modelos, a diversidade da equipe de desenvolvimento e a transparência na tomada de decisões.

O fato é que o avanço da inteligência artificial foi espantoso nos últimos meses após o lançamento do chatGPT ao público, muitas pessoas passaram a usar diariamente, e o chatGPT foi de zero a 5 Milhões de usuários em 3 dias, isso é um avanço no acesso de pessoas comuns ao uso de inteligência artificial. 

Preocupados com a com esse avanço, diversos profissionais que trabalham com inteligência artificial estão assinando uma carta aberta pedindo que os projetos relacionados a inteligência artificial sejam pausados por pelo menos 6 meses para que seja possível ter um controle ou entender os as consequências desses desse avanço e evitar, problemas maiores no uso desenfreado de modelos de inteligência artificial. 

Essa carta aberta ( link abaixo )é assinada por Elon Musk (Twitter, Tesla), Steve wozniack (fundador da Apple) e muitos outros profissionais que trabalham com inteligência artificial.

Pause Giant AI Experiments: An Open Letter

Os perigos relatados acima vão muito além e colocam em risco diversos empregos tais como Artistas, Escritores, advogados, ilustradores. Segundo uma Pesquisa do  Goldman Sachs o uso das IA’s pode afetar cerca de 300 Milhões de empregos no mundo.

A pergunta que fica é, como manter o equilíbrio nisso?

O Algoritmo já nos conhece melhor do que nós mesmos?

esse assunto ainda vai longe..