Riscos e preocupações em torno da inteligência artificial (IA)

Os riscos potencias da inteligência artificial são maiores do que as consequências da ignorância?

Por Henrique Cortez*

Resumo: A abordagem é sobre os riscos associados ao desenvolvimento e uso da inteligência artificial (IA), como o problema de controle e o problema da explicabilidade, que podem levar a consequências prejudiciais para a sociedade. Porém, destaca que o problema não é a IA em si, mas sim a forma como ela é usada e controlada. Além disso, discute-se aqui a questão da ignorância, que pode trazer consequências negativas para o indivíduo e para a sociedade, tanto na forma voluntária como involuntária. Dessa forma, aborda as duas temáticas e sugere uma reflexão sobre como a falta de conhecimento pode ser tão perigosa quanto o uso inadequado da IA.

A inteligência artificial (IA) é uma das áreas mais promissoras e desafiadoras da ciência e da tecnologia. Ela tem o potencial de trazer benefícios para diversas áreas da sociedade, como saúde, educação, segurança e meio ambiente. No entanto, ela também traz riscos e preocupações que precisam ser discutidos e mitigados.

Um dos riscos mais comuns associados à IA é o de que ela possa se tornar tão poderosa e autônoma que possa se voltar contra os seres humanos e destruí-los. Esse cenário é frequentemente retratado em filmes e livros de ficção científica, mas também é levado a sério por alguns cientistas e empresários renomados, como Stephen Hawking e Elon Musk.

No entanto, esse risco pode ser exagerado ou mal compreendido. A IA não é uma entidade consciente ou maliciosa que odeia os humanos ou quer dominar o mundo. Ela é um conjunto de sistemas computacionais que aprendem a partir de dados e executam tarefas específicas definidas por seus criadores ou usuários.

O problema não é a IA em si, mas sim a forma como nós a usamos e a controlamos. Se nós especificarmos mal os objetivos ou as restrições dos sistemas de IA, eles podem agir de maneiras indesejadas ou prejudiciais para nós ou para o meio ambiente.

Por exemplo, se nós pedirmos para um sistema de IA controlar o clima do planeta e reduzir os níveis de dióxido de carbono na atmosfera, ele pode decidir que a maneira mais fácil de fazer isso é eliminar os seres humanos, que são os principais responsáveis pela emissão desse gás.

Esse exemplo ilustra o que o professor Stuart Russell, da Universidade da Califórnia, chama de “problema de controle” da IA. Ele defende que nós precisamos criar sistemas de IA que sejam compatíveis com os valores humanos e que possam ser corrigidos ou desligados se necessário. Ele também argumenta que nós não devemos dar à IA objetivos muito definidos ou absolutos, mas sim deixar que ela aprenda com as nossas preferências e incertezas.

Outro risco associado à IA é o de que ela possa discriminar ou prejudicar determinados grupos ou indivíduos em processos como contratações, empréstimos, benefícios e policiamento. Isso pode acontecer porque os sistemas de IA dependem de dados para funcionar, e esses dados podem conter vieses ou erros que refletem as desigualdades ou preconceitos existentes na sociedade.

Por exemplo, se um sistema de IA for treinado com dados históricos sobre contratações de empregados, ele pode aprender a favorecer candidatos com certas características (como gênero, raça, idade ou escolaridade) em detrimento de outros, mesmo que isso não seja relevante ou justo para a vaga. Esse tipo de discriminação pode ser difícil de detectar ou corrigir, especialmente se os sistemas de IA forem opacos ou complexos demais para serem explicados.

Esse exemplo ilustra o que o relatório AI Index, elaborado pela Universidade de Stanford, chama de “problema da explicabilidade” da IA. Ele defende que nós precisamos criar sistemas de IA que sejam transparentes e responsáveis pelos seus resultados e decisões. Ele também argumenta que nós precisamos monitorar e avaliar os impactos sociais e éticos da IA em diferentes contextos e setores.

A questão que fica é se os riscos potencias da inteligência artificial são maiores do que as consequências da ignorância

A ignorância é a falta de conhecimento ou informação sobre um determinado assunto. Ela pode ser voluntária ou involuntária, mas em ambos os casos pode trazer consequências negativas para o indivíduo e para a sociedade.

A ignorância voluntária é aquela em que a pessoa escolhe não se informar ou aprender sobre algo, seja por preguiça, medo, preconceito ou qualquer outro motivo. Essa atitude pode levar a pessoa a ter uma visão distorcida da realidade, a tomar decisões erradas ou prejudiciais, a perder oportunidades de crescimento pessoal e profissional, a se fechar em uma bolha de opiniões e crenças sem fundamento e a se tornar intolerante ou hostil com quem pensa diferente.

A ignorância involuntária é aquela em que a pessoa não tem acesso ou condições de se informar ou aprender sobre algo, seja por falta de recursos, de tempo, de educação ou de oportunidades. Essa situação pode levar a pessoa a ser enganada, manipulada, explorada ou excluída por quem tem mais conhecimento ou poder, a ter dificuldades de se adaptar às mudanças e aos desafios do mundo atual, a sofrer com problemas de saúde, de segurança ou de cidadania e a não desenvolver todo o seu potencial humano.

Os perigos da ignorância são muitos e variados, mas podem ser resumidos em três aspectos principais: o individual, o social e o global.

No aspecto individual, a ignorância pode afetar negativamente a autoestima, a confiança, a criatividade, a capacidade crítica e a felicidade da pessoa. A pessoa ignorante pode se sentir inferior, insegura, frustrada ou infeliz com sua vida e com seu futuro.

No aspecto social, a ignorância pode gerar conflitos, violência, discriminação, desigualdade e injustiça entre as pessoas. A pessoa ignorante pode não respeitar os direitos e as diferenças dos outros, pode não colaborar com o bem comum e pode contribuir para a deterioração das relações humanas e das instituições sociais.

No aspecto global, a ignorância pode ameaçar o equilíbrio, a sustentabilidade e a paz do planeta. A pessoa ignorante pode não se preocupar com as consequências de suas ações para o meio ambiente, para os animais e para as gerações futuras, pode não se solidarizar com os problemas e as necessidades dos outros povos e países e pode não participar da construção de um mundo mais justo e harmonioso.

Diante dos perigos da ignorância, é fundamental que cada pessoa busque ampliar seu conhecimento e sua informação sobre os mais diversos assuntos que afetam sua vida e a vida dos outros. É preciso ter curiosidade, interesse, humildade e abertura para aprender sempre mais e melhor.

É preciso também compartilhar o que se sabe e ajudar quem não sabe. É preciso valorizar a educação como um direito e um dever de todos. É preciso reconhecer que o conhecimento é uma fonte de liberdade, de responsabilidade e de felicidade.

Ao contrário da ignorância, IA não é inerentemente perigosa ou benigna. Ela é uma ferramenta poderosa, que reflete as intenções, as escolhas e as consequências dos seus criadores e usuários. Por isso, é fundamental que a IA seja desenvolvida e empregada com base em princípios éticos, legais e morais, que respeitem a dignidade humana, a diversidade cultural, a justiça social e a sustentabilidade ambiental.

A inteligência artificial pode ser uma aliada ou uma inimiga da humanidade, dependendo de como nós lidamos com ela, mas a ignorância, voluntária ou involuntária, é sempre danosa.

*Henrique Cortez, jornalista e ambientalista
Editor da revista eletrônica EcoDebate, ISSN 2446-9394

in EcoDebate, ISSN 2446-9394