IBM apresenta watsonx.governance
Detetar e mitigar riscos de forma proativa, monitorizando a imparcialidade, o preconceito, o desvio e as novas métricas dos modelos fundacionais é uma das funcionalidades.
A IBM anunciou que a solução watsonx.governance, estará disponível de forma geral no início de dezembro para ajudar as empresas “a adicionar transparência aos modelos de IA e eliminar a incerteza que existe em torno dos dados que são utilizados e das respostas obtidas”.
A IA generativa, baseada em grandes modelos de linguagem (LLM, as suas siglas em inglês) ou modelos fundacionais, oferece inúmeros casos de uso para as empresas, mas também implica o surgimento de novos riscos e complexidades, incluindo dados treinados extraídos da Internet cuja precisão e imparcialidade não podem ser validadas, ou até a impossibilidade de explicar os resultados.
O Watsonx.governance proporciona às organizações “o conjunto de ferramentas que estas necessitam para gerir risco, adotar transparência e antecipar o cumprimento da futura regulação em matéria de IA”, defende a IBM.
Num momento em que as empresas procuram inovar com IA, implementando uma combinação de modelos fundacionais de fornecedores de tecnologia e de comunidades de código aberto, o watsonx “permite-lhes gerir, monitorizar e governar modelos independentemente das opções que façam”.
“Os conselhos de administração e os CEOs das empresas procuram tirar partido das vantagens dos mais potentes modelos de IA de hoje em dia, mas estão a ser confrontados com os riscos resultantes da falta de transparência e da incapacidade de governar estes modelos” afirmou Kareem Yusuf, Ph.D, Senior Vice President, Product Management and Growth, IBM Software.
