AI não é a preocupação, é com os desenvolvedores de AI que você deve se preocupar

Não é mais novidade que o ChatGPT e outros chatbots reinventaram nossa compreensão e interação com ferramentas de inteligência artificial (IA). Muitas pessoas conheceram a IA pela primeira vez quando a internet enlouqueceu com o lançamento do ChatGPT em novembro passado.

Sem descartar a empolgação associada ao chatbot da OpenAI, somos expostos diariamente a ferramentas e operações de IA. Veja, por exemplo, o fato de que o mecanismo de busca e o mapa do Google dependem da IA para processar consultas e produzir respostas em segundos.

AI é o bom, o mau e o inevitável

As possibilidades do que pode ser feito com o ChatGPT e outras ferramentas de IA geraram alegria sem precedentes. Existem instâncias dessas ferramentas criando conteúdos e documentos técnicos reservados exclusivamente para profissionais.

O ChatGPT tem sido usado para escrever códigos, desenvolver malware, gerar ideias, traduzir idiomas e muito mais. Em 2022, o uso do Midjourney cresceu mais de .

Os recursos dessas ferramentas também introduzem o medo do dia do juízo final. Existem preocupações de desemprego em massa , , , , , e .

Uma ação movida em 13 de janeiro de 2023 acusou Stability AI, Midjourney e DeviantArt de “os direitos de milhões de artistas”.

IA é o futuro. Devemos aprender a abraçar o bem e implementar medidas para minimizar o impacto do mal. No entanto, não há dúvida de que a IA continuará a perturbar a sociedade moderna.

Uma pesquisa recente feita por mostrou que a geração Z (29%), a geração X (28%) e a geração do milênio (27%) usaram ferramentas de IA generativas.

Espera-se que a receita do mercado global de IA cresça de US$ 136 bilhões em 2022 para mais de até 2030. De acordo com , 35% das empresas usaram IA em seus negócios, 42% estavam explorando a IA e 66% estavam executando ou planejando aplicar a IA para atingir metas de sustentabilidade.

Os benefícios da IA incluíram automação de trabalho (30%), economia de custos (54%), desempenho de TI (53%) e melhor experiência do cliente (48%).

A criação da IA

Dadas as muitas maravilhas do ChatGPT e outras ferramentas, é fácil supor que as ferramentas de IA são uma fusão de feitiçaria e ciência. Felizmente, eles não são.

IA são modelos matemáticos gerados em laboratório, baseados em dados, projetados para executar tarefas que exigem inteligência humana, como reconhecer padrões, aprender com a experiência, resolver problemas e tomar decisões eficazes.

O desenvolvimento da IA é impulsionado por avanços em áreas como ciência da computação, neurociência e psicologia. Baseia-se na ideia de que a inteligência humana pode ser modelada e simulada por uma máquina.

Algumas das principais tecnologias e técnicas usadas na IA incluem aprendizado de máquina, processamento de linguagem natural e robótica.

Impacto do viés humano no desenvolvimento de IA

A noção de “entra lixo, sai lixo” é muito verdadeira para a IA. À medida que continuamos a desenvolver e confiar cada vez mais nos sistemas de IA, também devemos estar cientes do potencial de viés nesses sistemas.

Embora seja fácil apontar o dedo para a própria IA como o problema, a verdade é que a verdadeira preocupação é o viés humano daqueles que desenvolvem e treinam esses sistemas. Os sistemas de IA se comportam exatamente da maneira que seus desenvolvedores desejam.

69% dos pesquisadores de IA acreditam e deve implicar um maior enfoque na segurança.

O viés humano na IA pode se manifestar de várias maneiras, desde os dados usados para treinar a IA até os processos de tomada de decisão do próprio sistema.

Por exemplo, se um sistema de IA for treinado em um conjunto de dados desproporcionalmente composto por um grupo específico de pessoas, ele pode não ser capaz de entender e tomar decisões com precisão para outros grupos.

Da mesma forma, se um sistema de IA for projetado para tomar decisões com base em certas suposições ou estereótipos, ele pode perpetuar preconceitos prejudiciais na sociedade.

Um dos maiores problemas com a IA é o fato de que os dados nos quais ela é treinada podem refletir os preconceitos das pessoas que coletam e selecionam esses dados.

Por exemplo, se um conjunto de dados usado para treinar um sistema de reconhecimento facial for composto principalmente por imagens de pessoas de pele clara, o sistema provavelmente terá um desempenho ruim ao tentar reconhecer os rostos de pessoas com tons de pele mais escuros.

Essa é uma forma de viés que pode ter consequências no mundo real, como no caso de devido a uma falha no reconhecimento facial.

Mas não são apenas os dados que podem ser tendenciosos, as pessoas que criam e treinam esses sistemas também podem introduzir viés por meio de seus próprios preconceitos inconscientes.

Por exemplo, um descobriram que modelos de linguagem como GPT-3, que foram treinados em um conjunto de dados principalmente racista e sexista, tendem a produzir textos racistas e estereotipados por gênero. Isso pode perpetuar estereótipos nocivos e limitar o potencial dos sistemas de IA.

Ferramentas de IA Socialmente Responsáveis

Como 74% das organizações não tomaram medidas para garantir que sua IA seja confiável e responsável, a urgência de criar ferramentas de IA socialmente responsáveis é uma responsabilidade coletiva. Começa identificando o potencial de viés e trabalhando ativamente para mitigá-lo.

Isso significa diversificar a equipe de pessoas que trabalham com IA e garantir que uma ampla gama de perspectivas e experiências sejam representadas.

É importante garantir que os dados usados para treinar a IA sejam diversos e representativos da população que ela atenderá. Isso envolve selecionar e selecionar cuidadosamente os dados para garantir que eles não perpetuem preconceitos ou estereótipos existentes.

Além disso, é importante considerar o impacto potencial dos dados em diferentes grupos de pessoas e obter informações de diversas perspectivas para garantir que os dados sejam inclusivos e justos.

O design de sistemas de IA deve ser transparente e explicável. Isso significa que os processos de tomada de decisão dos sistemas de IA devem ser claros e facilmente compreendidos pelos humanos, para que quaisquer possíveis vieses ou problemas possam ser identificados e resolvidos.

É essencial avaliar e monitorar regularmente o desempenho dos sistemas de IA para garantir que eles funcionem como pretendido e não perpetuem vieses prejudiciais. Isso inclui analisar regularmente os dados usados para treinar sistemas de IA, bem como as decisões e ações dos modelos de IA.

O governo deve fazer leis e regulamentos que imponham o desenvolvimento e uso socialmente responsável da IA sem sufocar o crescimento e o desenvolvimento.

Maximizando a IA para o Bem da Sociedade

A IA tem o potencial de revolucionar a maneira como vivemos, trabalhamos e socializamos. Mas, à medida que continuamos a desenvolver e confiar em sistemas de IA, é crucial também abordarmos o potencial de viés. Devemos reconhecer que a verdadeira preocupação não é a IA em si, mas o viés daqueles que a desenvolvem e treinam.

Ao estar ciente desse problema e tomar medidas para mitigá-lo, podemos garantir que o futuro da IA beneficie a todos.

O objetivo deve ser o desenvolvimento da IA para o bem da sociedade. Tal objetivo exigirá responsabilidade coletiva de governos, desenvolvedores e usuários. Os governos devem aplicar regulamentos que garantam que os sistemas de IA sejam desenvolvidos de maneira socialmente responsável.

Os desenvolvedores devem evitar preconceitos adotando diversidade, transparência e responsabilidade. Eles devem avaliar e monitorar regularmente o desempenho dos sistemas de IA para evitar preconceitos e abusos não intencionais.

O público também deve entender que é responsável por como usa a IA. O uso socialmente irresponsável da IA deve ser desencorajado por todos.