Bruno Castro, professor do INF responsável pela pesquisa. Foto: divulgação.

O artigo intitulado Preventing Undesirable Behavior of Intelligent Machines (Impedindo o comportamento indesejável de máquinas inteligentes, em tradução livre), do Instituto de Informática da Universidade Federal do Rio Grande do Sul (INF), tem ganhado destaque no site da revista acadêmica Science, dos Estados Unidos.

Produzido pelo professor Bruno Castro em colaboração com colegas da Universidade de Massachusetts e de Stanford, o estudo está no grupo dos 5% com maior atenção na revista, que é uma das principais publicações científicas do mundo.

A afirmação foi feita de acordo com o Altmetrics, mecanismo utilizado pela Science para mensurar o impacto de publicações.

De acordo com o INF, o ranking tem base não apenas em citações, mas também na visibilidade que o artigo ganha na imprensa e em sites de tecnologia. 

O artigo brasileiro já teve mais de 20 mil visitas no site da Science, além de ter sido tema de matérias em mais de 30 jornais e revistas nas últimas semanas.

Entre eles, estão os americanos Los Angeles Times, The Herald Sun e Wired.com.

Segundo o INF, o estudo iniciado em 2016 apresenta um novo framework matemático para o desenvolvimento de métodos de aprendizado de máquina com garantias probabilísticas de que irão produzir resultados seguros e justos.

“Nós inicialmente obtivemos dados do vestibular da UFRGS e mostramos que quase todas as técnicas tradicionais de ML, quando utilizadas de forma descuidada, poderiam gerar predições que discriminam – para inúmeras métricas e definições de discriminação”, conta Castro. 

A pesquisa promete ser relevante para problemas nos quais é preciso controlar carros autônomos ou em aplicações de machine learning na área médica, nas quais o tratamento dado a um paciente é guiado por técnicas de IA.

Fundado em 1989, o INF tem uma área física de 7,5 mil m² em Porto Alegre. São 23 salas de aula, 12 laboratórios de ensino, 35 salas-laboratórios para pesquisas e uma biblioteca especializada com mais de 28 mil volumes. O corpo docente é formado por 75 professores doutores.

Criada em 1880 em Nova Iorque, a Science teve o apoio financeiro de Thomas Edison e, posteriormente, de Alexander Graham Bell.

A revista científica, publicada pela American Association for the Advancement of Science (AAAS), é considerada uma das publicações acadêmicas mais prestigiadas do mundo.