Riscos: modelos, vieses, efeito manada e fraude

Os riscos da inteligência artificial nos serviços financeiros dividem-se em várias categorias identificadas pelos supervisores e pela literatura. O risco de modelo é o mais antigo. Todo modelo simplifica a realidade e pode falhar quando as condições mudam. Os modelos de aprendizado de máquina estão particularmente expostos, porque aprendem padrões a partir de dados históricos que podem não se manter no futuro. A complexidade dos grandes modelos torna difícil validá-los da forma como os bancos validam modelos estatísticos desde a década de 2000.¹

O viés e a discriminação formam uma segunda categoria. Um modelo de crédito treinado com decisões históricas pode reproduzir os padrões dessas decisões, incluindo eventuais desvantagens para determinados grupos, mesmo quando não utiliza diretamente características protegidas. O direito suíço não contém uma proibição geral de discriminação entre particulares, embora a proteção da personalidade prevista no artigo 28 do Código Civil e leis específicas ofereçam alguma proteção. As orientações da Autoridade Suíça de Supervisão do Mercado Financeiro (FINMA) incluem a igualdade de tratamento entre suas áreas de atenção, ao passo que o AI Act da União Europeia trata da questão por meio de seus requisitos de governança de dados para sistemas de alto risco.² A explicabilidade está estreitamente relacionada. Quando um modelo não consegue explicar por que rejeitou um pedido de empréstimo ou sinalizou uma transação, o cliente não pode contestar a decisão e a instituição não pode demonstrar que agiu licitamente.

A estabilidade financeira é a preocupação das instituições sediadas em Basileia. Se muitos participantes do mercado usarem modelos semelhantes treinados com dados semelhantes, suas decisões podem tornar-se correlacionadas, o que poderia amplificar os movimentos de mercado e reduzir a diversidade de opiniões que mantém os mercados líquidos. Gary Gensler, antes de se tornar presidente da Securities and Exchange Commission dos Estados Unidos, e Lily Bailey descreveram esse risco de comportamento de manada em um trabalho de 2020, argumentando que o aprendizado profundo poderia aumentar o risco sistêmico por meio da uniformidade, da interconexão em rede e de lacunas regulatórias.³ O Conselho de Estabilidade Financeira acrescentou a concentração em poucos fornecedores de modelos, serviços em nuvem e chips, o que cria pontos únicos de falha para o sistema financeiro.⁴

O risco cibernético e a fraude cresceram com a tecnologia. Os atacantes usam modelos de linguagem para redigir mensagens de phishing convincentes em qualquer língua, inclusive em alemão suíço, e para identificar vulnerabilidades em software. A clonagem de voz e os deepfakes em vídeo permitem que criminosos se façam passar por executivos, clientes ou familiares. Em um caso amplamente noticiado em 2024, um funcionário da empresa de engenharia Arup em Hong Kong transferiu cerca de USD 25 milhões após uma videoconferência na qual os demais participantes, incluindo o aparente diretor financeiro, eram gerados por inteligência artificial.⁵ O Centro Nacional de Cibersegurança, que se tornou em 2024 o Departamento Federal de Cibersegurança, relatou um número crescente de tentativas desse tipo na Suíça.⁶ Para os bancos e seus clientes, a consequência é que uma voz ou um rosto em uma tela já não comprovam a identidade, de modo que as instruções de pagamento exigem verificação independente por um canal separado.

Notas

1. Sobre a gestão do risco de modelo, ver as orientações de supervisão do Federal Reserve e do Office of the Comptroller of the Currency, SR 11-7, Guidance on Model Risk Management, abril de 2011, que influenciaram a prática internacionalmente. ↩
2. Art. 28 do Código Civil suíço (CC/ZGB, SR 210); FINMA Guidance 08/2024; art. 10 do Regulamento (UE) 2024/1689, sobre dados e governança de dados. ↩
3. Gary Gensler e Lily Bailey, “Deep Learning and Financial Stability”, working paper, MIT, novembro de 2020. ↩
4. Financial Stability Board, The Financial Stability Implications of Artificial Intelligence, 14 de novembro de 2024, seções sobre dependências de terceiros e correlações de mercado. ↩
5. Relatórios da Polícia de Hong Kong e reportagens da imprensa internacional de fevereiro e maio de 2024 sobre a fraude por deepfake contra o escritório da Arup em Hong Kong. ↩
6. Departamento Federal de Cibersegurança (OFCS/BACS), relatórios semestrais e resenhas semanais sobre fraudes e deepfakes desde 2024. ↩

Apenas para fins de informação geral. Este artigo não constitui assessoria jurídica ou tributária, não substitui a análise de um caso concreto e não estabelece relação entre advogado e cliente. Reflete a situação jurídica em outubro de 2026.