Os benefícios e riscos da inteligência artificial generativa para as empresas

A evolução da IA até a inteligência artificial generativa

Desde que o termo "inteligência artificial" (IA) foi introduzido pela primeira vez em 1956 como um novo campo da ciência da computação, sua aplicação era, na maioria das vezes, limitada e teórica. Os pesquisadores não tinham acesso regular aos recursos computacionais necessários para processar grandes volumes de dados e executar algoritmos de IA.

Um marco importante foi alcançado em 1997, quando o supercomputador Deep Blue, da IBM, treinado com modelos de IA baseados em jogadas de xadrez, derrotou o campeão mundial Garry Kasparov. Vinte e cinco anos depois, em 2022, com a introdução do Chatbot Generative Pre-trained Transformer (ChatGPT), a IA entrou no mainstream. Em apenas dois meses após seu lançamento, o ChatGPT atingiu 100 milhões de usuários, tornando-se o aplicativo de computador de crescimento mais rápido da história.

Desde então, o ChatGPT tem sido amplamente discutido na mídia, alimentando intensos debates sobre seu impacto, incluindo a substituição de trabalhadores, o incentivo ao plágio, a apropriação indevida de propriedade intelectual e a disseminação de desinformação. Como um exemplo de GenAI, o ChatGPT é um modelo de linguagem de grande escala que utiliza aprendizado de máquina para gerar textos semelhantes aos escritos por humanos.

Casos de uso da IA generativa

Profissionais de tecnologia da informação, cientistas da computação, analistas da indústria de tecnologia e futuristas consideram os produtos de GenAI uma revolução com múltiplas aplicações. Alguns preveem que isso representa um passo em direção à inteligência artificial geral (AGI), quando os computadores serão capazes de realizar qualquer tarefa intelectual que os humanos executam.

A tecnologia GenAI está sendo explorada em praticamente todos os setores de grande escala:

• Saúde: Acelera a descoberta de medicamentos, aumenta a velocidade do design de anticorpos, permite tratamentos personalizados e ajuda a identificar anomalias em imagens médicas.
• Jurídico: Auxilia na criação de documentos, na realização de análises e em pesquisas jurídicas.
• Negócios: Gera conteúdos escritos e gráficos para marketing, além de aprimorar o atendimento ao cliente.
• TI e Cibersegurança: Detecta ameaças cibernéticas, identifica ataques e melhora estratégias de segurança baseadas no conceito de confiança zero (zero trust).

Os riscos do uso não regulamentado

Apesar dos benefícios, os desenvolvedores e usuários de GenAI também reconhecem riscos significativos, como:

• Vazamento de dados e privacidade: Funcionários podem inserir informações pessoais, segredos comerciais e propriedade intelectual em consultas de GenAI.
• Código inseguro: Dependência de modelos preditivos para escrever código sem revisão pode criar vulnerabilidades de segurança.
• Uso por criminosos: No Dark Web, criminosos podem gerar malwares sem precisar escrever códigos originais.
• Ataques de phishing avançados: Chats, vídeos e até encontros deepfake podem ser usados para persuadir vítimas e roubar informações.
• Criação de malware sofisticado: A GenAI pode desenvolver códigos maliciosos que evoluem rapidamente para evitar medidas de mitigação.

Em escala global, especialistas em IA temem que a GenAI possa ser usada para disseminar propaganda, gerar instabilidade social e eliminar milhões de empregos. Nos Estados Unidos, foi proposta uma regulamentação que exige que empresas relatem ao governo o desenvolvimento de modelos de IA de grande escala. Na União Europeia, a Lei de IA (AI Act) foi aprovada para regular os riscos da inteligência artificial e aumentar a transparência no uso de materiais protegidos por direitos autorais.

Para as empresas, a melhor abordagem para mitigar riscos inclui soluções robustas de cibersegurança, treinamento sobre o uso adequado da GenAI, políticas claras de gestão de dados, monitoramento e aplicação de regras.

Com a crescente incorporação da GenAI em produtos e ferramentas digitais, os departamentos de TI precisam encontrar maneiras de aproveitar seus benefícios enquanto minimizam seus riscos.

Para saber mais sobre os impactos da IA generativa na segurança, leia: Como a IA Generativa está Transformando a Segurança.