Sua Empresa

Se há uma constante no mundo da tecnologia, é que, quanto mais uma determinada tecnologia é adotada, mais ela falha.

Como a resposta a incidentes de IA é diferente da resposta tradicional a outras situações em vários aspectos, os esforços para resolver problemas com inteligência artificial exigem políticas e procedimentos próprios para orientar as empresas e o pessoal envolvido no enfrentamento dos casos.

As políticas de incidentes de IA devem abordar os seguintes pontos:

— Criar uma definição de IA.

— Identificar os danos mais relevantes.

— Designar responsáveis pela resposta a incidentes.

— Desenvolver um plano de contenção de curto prazo.

O que fazer após identificar um incidente de IA: contenção, erradicação e recuperação

Depois que os incidentes são identificados, o passo seguinte é executar uma estratégia de contenção de mais longo prazo para impedir que o dano se espalhe ainda mais. Eis as perguntas críticas a que essa avaliação deve responder:

— Quem está sendo prejudicado?

— Quais são as opções para modificar o comportamento do sistema de IA?

— O que está causando o dano?

— Os danos existentes podem ser tratados ou corrigidos de alguma forma?

Depois que o incidente ocorre, é importante não apenas entender quem foi prejudicado, mas o que as empresas podem fazer a respeito. Um tipo comum de incidente surge quando serviços preferenciais, como descontos em produtos, são oferecidos apenas a grupos demográficos específicos.

Uma vez que os planos de contenção tenham sido colocados em prática e executados, o passo seguinte é tentar eliminar completamente a causa do incidente.

Alguns sistemas de IA podem ser passíveis de esforços de erradicação, mas outros sistemas podem permitir apenas uma erradicação parcial, ou a fonte do incidente pode não ser removível de forma alguma.

Em um nível mais amplo, há três maneiras principais de tratar ou corrigir comportamentos problemáticos de modelos, todas utilizadas há muito tempo para depurar modelos de aprendizado de máquina:

— Pré-processamento: diz respeito às ações que podem ser tomadas antes de o modelo absorver ou ser treinado com dados de entrada. Em alguns casos, dados de treinamento não representativos podem ser a fonte do comportamento problemático do modelo. Nesse caso, a solução é treinar novamente o modelo com dados de treinamento mais representativos.

— Processamento interno: esse tipo de correção envolve alterar os próprios pesos ou a arquitetura do modelo. Às vezes, essas atualizações são relativamente simples, mas, na maioria dos casos, exigem um volume significativo de desenvolvimento que consome muito tempo. Raramente vi essa abordagem funcionar na prática, principalmente porque ela frequentemente envolve a construção de um modelo totalmente novo.

— Pós-processamento: é a opção mais direta de todas e vem sendo amplamente usada para solucionar problemas de IA há décadas. Envolve alterar o comportamento do modelo depois que o sistema já fez suas previsões. Filtros de saída, por exemplo, podem simplesmente impedir determinados comportamentos ou evitar que previsões específicas sejam geradas. Normalmente, isso assume a forma de regras que podem ser adicionadas ao modelo.

Lições aprendidas

Após a conclusão das atividades de resposta, é fundamental que as empresas conduzam uma revisão pós-incidente para aprender e melhorar a partir de cada ocorrência.

Isso consiste em dar um passo atrás e avaliar os acertos e as falhas de como o incidente foi tratado.

Prevenir e responder a riscos deve ser um exercício contínuo.