Estamos vivendo em um mundo que observa avanços expressivos e acelerados de tecnologias impulsionadas pela inteligência artificial e aprendizado de máquina, mas que também indica grande preocupação em relação ao uso seguro de inovações como o Chat GPT

A Inteligência Artificial (IA) vem ocupando cada vez mais espaço no mercado à medida que os algoritmos evoluem e os usuários observam neles ganhos significativos em eficiência e precisão. O poder destas ferramentas, entretanto, exige camadas adicionais de cuidado e atenção para que processos não sejam contaminados a partir de eventuais situações forjadas por fraudadores com a finalidade de praticar golpes.

Não só no Brasil, mas também pelo mundo, a principal orientação dos especialistas é usar este tipo de inovação com absoluta responsabilidade, para que seja possível aproveitar de maneira ética e segura os benefícios que a IA generativa – como o Chat GPT, por exemplo – oferecem.

Antes de tudo, é bom reforçar um ponto muito importante: as ferramentas de IA são seguras e devem estar inseridas nos negócios de uma empresa para potencializar seus resultados. As ameaças, neste caso, ficam por conta do mau uso das tecnologias por pessoas dispostas a tentar tirar algum tipo de vantagem material de forma ilícita.

Hoje, são bem amplas as possibilidades de desenvolver ou incrementar processos corporativos com o apoio da inteligência artificial e do aprendizado de máquina (machine learning). A começar pela análise de padrões de comportamento dos usuários, onde o desvio do que é considerado ‘normal’ pode indicar uma evidência de fraude – como no caso de uma transação financeira em valores incomuns, por exemplo.

Autenticar a identidade do usuário por dados biométricos e fazer a validação de documentos oficiais são outros casos em que uma IA bem treinada pode garantir a identificação de tentativas de fraude com maior precisão a cada consulta. Neste artigo, vamos detalhar os pontos principais da tecnologia, falar de boas práticas para uso seguro de IA e citar algumas vulnerabilidades que podem se transformar em danos financeiros e até reputacionais para empresas que não estejam preparadas para saber o que é ameaça e o que é oportunidade. Veja!

Neste conteúdo você vai ver

Para começar: o que é IA generativa?

Plataformas como o Chat GPT ganharam muito espaço na mídia recentemente pelas inúmeras possibilidades que elas oferecem de analisar bases de dados disponíveis e gerar, a partir do aprendizado de máquina, conteúdos criativos como textos, imagens/desenhos e áudio (voz). A Inteligência Artificial Generativa é um algoritmo que reconhece e assimila conteúdos, os resume e aprende automaticamente a gerar o mesmo tipo de informação assimilada.

O Chat GPT é capaz de gerar respostas e fornecer informações com base nas entradas fornecidas pelos usuários. Ele foi treinado usando o modelo Transformer, de machine learning, que é capaz de gerar texto com base em um conjunto de dados de treinamento. Como ferramenta generativa, ele pode produzir uma ampla variedade de respostas e até mesmo gerar texto original com base nas entradas fornecidas.

(O parágrafo acima, em itálico, é a resposta dada pelo Chat GPT para a pergunta “O Chat GPT é uma ferramenta de IA generativa?”)

Como você pode ver, essa inteligência – taembém conhecida como Large Language Models (LLMs) – é usada atualmente em larga escala para acelerar uma série de processos que podem ser automatizados, como o suporte para a criação de textos ou o desenvolvimento de códigos-base de programação.

Essas ferramentas funcionam a partir de uma lógica que envolve a coleta, a higienização, a organização, o armazenamento e o domain knowledge (conhecimento de domínio) de um grande volume de dados – cadeia que é alimentada por um ser humano! –, para que o modelo compreenda a forma correta de responder e possa replicar o comportamento em milhares de outras situações. Assim, por trás de toda boa IA, está uma ótima equipe humana de desenvolvimento.

Ótimo, é hora de implementar na minha empresa!

Como dissemos na introdução, sim, você deve considerar o uso de toda inteligência artificial que possa otimizar processos e potencializar a produtividade dos negócios. Elas não substituem o intelecto e o pensamento humano, mas são ferramentas criadas para agregar e somar competências – quem souber fazer bom uso vai estar sempre um passo à frente da concorrência.

Como em todo grande passo dado pela sua empresa, junto vem uma grande responsabilidade. Os deepfakes são ótimos exemplos de uso da IA generativa para fins que podem não ser exatamente os mais éticos. Enquanto você brinca com os amigos gerando um vídeo em que aparece cantando como um artista famoso, outras pessoas estudam métodos cada vez mais sofisticados de inserir em seu próprio rosto o tom de voz e as características faciais de outra pessoa – para, por exemplo, burlar validações faciais em ambientes seguros ou até gerar danos reputacionais a outras pessoas.

É por isso que um dos pontos de maior atenção relacionado aos riscos da inteligência artificial é o de identificar comportamentos atípicos que possam estar sendo usados para fraudar algum processo interno da sua empresa. Hoje, você pode contar com as soluções de Autenticação e Prevenção à Fraude da Serasa Experian para proteger todas as etapas da sua jornada digital, com validação facial biométrica que é capaz de identificar se o usuário que está na outra ponta é uma pessoa real ou está tentando se passar por alguém a partir de um deepfake.

Com a palavra, os acadêmicos especialistas

Grandes personalidades acadêmicas do mundo de IA, como Yann LeCun (VP de IA da Meta) e Andrew Ng (CEO da LandingAI e co-fundador da Coursera), já compartilharam suas opiniões sobre o Chat GPT e outros modelos de inteligência artificial em suas redes sociais profissionais.

Para eles, as LLMs irão evoluir bastante nos próximos anos, mas os modelos atuais ainda não têm a capacidade humana de planejar ou raciocinar, sabem apenas reagir a uma série de perguntas inteligentes e bem feitas – e nem sempre com respostas corretas, já que o conteúdo gerado é ‘inventado’ pelo algoritmo.

Ou seja: nada de espalhar publicações automatizadas por aí antes de uma boa dose de fact-checking, para que sua empresa não corra o risco de ser associada, por exemplo, a alguma propagação de fake news.

Segurança da informação vs. inteligência artificial

Para potencializar o poder da inovação sem perder o controle dos riscos, muitas empresas globais já começaram a criar modelos de engenharia reversa que usam a própria inteligência artificial para combater o mau uso de outra IA – em uma espécie de contra-ataque, por exemplo, aos deepfakes.

Acontece que, no campo da segurança da informação, o chamado aprendizado adversarial também preocupa muitos especialistas, pela capacidade infinita de se lançar novos modelos, cada vez mais inteligentes, que estejam focados em reverter o desempenho apresentado por um anterior – criando, assim, uma espiral interminável de “contra-ataques”.

Hoje, a melhor forma de se prevenir continua sendo impedir a injeção de vídeo, monitorando com total atenção a parte da captura de imagem – na prática, é não permitir que o dado de entrada (imagem/vídeo) possa ser substituído por outro. Vale lembrar que, assim como as soluções antifraude baseadas em ferramentas de IA, os modelos criados para produzir deepfakes – Diffusion Models e GANs (Generative Adversarial Networks) – também estão evoluindo de forma rápida e ficando cada vez melhores.

Por isso, empresas com grandes operações comerciais já começaram a redesenhar processos e direcionar ainda mais esforços em prevenção a fim de que o mau uso da inteligência artificial não se transforme em um problema reputacional ou financeiro. Algumas das boas práticas que vem sendo implementadas são a definição de políticas claras sobre o uso das ferramentas e monitoramento do acesso/tratamento/armazenamento dos dados gerados por IA, o controle de quem tem acesso a estes dados, a implementação de fatores como a criptografia, a checagem de informações, a realização de auditorias que garantam a qualidade dos produtos e o treinamento de equipes para reconhecer potenciais problemas.

Relembrando: como funciona o Chat GPT

Como nós mostramos em um artigo recente, o Chat GPT é uma tecnologia de conversação baseada em inteligência artificial (IA) que tem revolucionado a forma como as empresas interagem com os clientes. Ele é capaz de compreender a linguagem natural e pode responder sozinho a perguntas e solicitações de forma precisa e eficiente.

O Chat GPT funciona assim: o usuário acessa a plataforma e escreve uma pergunta no campo de texto. Quanto mais informações e detalhamento, maior será o nível de complexidade da resposta dada pela ferramenta. Apesar da evolução constante, a solução ainda não consegue substituir a capacidade humana de compreender nuances como sarcasmo, emoções e outros aspectos da comunicação.

Para as empresas que decidirem usar a ferramenta, alguns benefícios se destacam: a melhora da experiência do usuário, a redução dos custos de atendimento ao cliente – com chatbots bem treinados – e a possibilidade de atender a um grande volume de consultas simultâneas.

Vale lembrar que a visibilidade alcançada pelo Chat GPT e seus concorrentes se deu em função dos resultados satisfatórios coletados nos últimos anos. Há uma tendência de que a inteligência bem treinada resulte em eficiência para o desenvolvimento de vários processos. Isso não significa dizer, entretanto, que a ferramenta irá acertar em 100% das respostas. Vale sempre manter a cautela.

Quais são os concorrentes do Chat GPT?

A Microsoft anunciou em janeiro de 2023 um investimento bilionário na criadora de sistemas de inteligência artificial OpenAI, responsável pelo Chat GPT. E o primeiro resultado visível da parceria foi a integração da ferramenta ao buscador Bing, para aprimorar a qualidade dos resultados de pesquisa e fazer frente a um gigante do segmento, o Google.

Como resposta imediata, a Alphabet – controladora do Google – acelerou a integração de sua própria inteligência artificial ao buscador. O Bard AI é a evolução de um modelo de linguagem que a empresa manteve em desenvolvimento nos últimos anos; hoje, suas funcionalidades já estão liberadas para testes em inglês, mas apenas para um seleto grupo de usuários maiores de 18 anos nos EUA.

Outra gigante do mercado que já anunciou investimentos em inteligência artificial foi a Meta, responsável pelo Facebook. No entanto, o chatbot LLaMa (Large Language Model Meta AI) só estará disponível para pesquisas acadêmicas, feitas por usuários que atuam em universidades ou são filiados a organizações governamentais.

O que muda do Chat GPT-3 para o GPT-4

A OpenAI anunciou em 14 de março o lançamento da versão mais atualizada do Chat GPT, o GPT-4. E várias mudanças aconteceram em relação ao Chat GPT-3: o novo modelo é multimodal e permite input de textos e imagens na plataforma – as respostas continuam limitadas a texto. O suporte a novos idiomas é outro importante benefício que o Chat GPT-4 traz ao mercado.

De acordo com a empresa criadora da inteligência artificial, a versão atualizada traz poucas mudanças em relação à usabilidade, mas apresenta ganhos relevantes na capacidade de responder corretamente a uma série de testes contraditórios e exames simulados. Segundo a OpenAI, embora os números ainda estejam “distantes do satisfatório”, o modelo conquistou os melhores resultados de todos os tempos.

Por enquanto, o Chat GPT-4 está restrito apenas para usuários da versão paga da plataforma (o Chat GPT Plus) e, mesmo assim, funciona de forma limitada.

Por trás de cada face, a gente sabe quem é quem

A gente sabe que a inteligência artificial chegou para revolucionar e que a sua empresa precisa acompanhar o ritmo da economia global. E, por trás de cada face, a gente também sabe quem é quem. Se o seu desafio é proteger os negócios sem dar espaço para que os deepfakes coloquem a sua reputação em jogo, blinde-se com as nossas soluções de Autenticação e Prevenção à Fraude. A Serasa Experian oferece a melhor experiência para o seu cliente com o seu negócio protegido. Acesse serasaexperian.com.br/solucoes/antifraude, saiba mais sobre as nossas soluções e agende um contato comercial!