Safeway lança gerenciamento de riscos em IA

A Safeway anuncia o lançamento da solução Trust AI.

A nova oferta “traz um ganho significativo” no campo do gerenciamento de riscos de Inteligência Artificial (IA), estabelecendo novos padrões para a implementação ética e confiável da IA.

Na sociedade atual, o papel da IA cresceu exponencialmente, fornecendo benefícios robustos em várias indústrias. No entanto, ao lado de seus avanços, a utilização da IA também apresenta riscos inerentes que exigem uma identificação, avaliação e mitigação perspicazes.

Compreendendo a importância do uso responsável da IA, a Safeway desenvolveu a Trust AI para enfrentar esses desafios “e garantir que os sistemas de IA sejam implantados de forma ética e segura”.

Com uma abrangência que engloba todo o ciclo de vida da IA, desde a concepção até o monitoramento contínuo, a solução Trust AI é construída com base no Framework de Gerenciamento de Risco da Inteligência Artificial (AI RMF) desenvolvido pelo National Institute of Standards and Technology (NIST).

Trata-se de uma abordagem de ponta, focada em quatro pilares: Avaliação de Riscos, Governança e Políticas, Desenvolvimento Ético e Monitoramento e Auditoria.

O componente de Avaliação de Riscos empreende identificação e uma avaliação dos riscos potenciais associados à implementação da IA englobando ameaças concebíveis, vulnerabilidades e consequências adversas.

No cerne da solução Trust AI está a integração de práticas de Desenvolvimento Ético, incorporando valores fundamentais, como privacidade, justiça e confiança do usuário no processo de design e utilização da IA.

O aspecto de Monitoramento e Auditoria reforça ainda mais o framework por meio de mecanismos contínuos de detecção de anomalias, assegurando conformidade, detecção antecipada de problemas e adaptação fluida às mudanças nas condições operacionais.

A nova ferramenta da consultoria de cibersegurança do Grupo Stefanini “aumenta a confiança nas tecnologias de IA e solidifica uma cultura de segurança, transparência e uso ético”.