Quais os principais desafios da adoção e utilização de inteligência artificial na indústria?

Quais os principais desafios da adoção e utilização de inteligência artificial na indústria? Vítor Hugo Gonçalves, CEO da Água Monchique, e Tiago Sacchetti, diretor da Bosch Industry Consulting, respondem à pergunta, na primeira pessoa

“O maior desafio na introdução e utilização da IA são as próprias pessoas. É imperativo conquistar a atenção dos colaboradores, alterando a perspetiva com que encaram a IA nas suas rotinas diárias. Esta deve ser percebida não como uma ameaça, mas sim como uma ferramenta capaz de assisti-los e potencializá-los, resultando em maior produtividade.

O tempo e o investimento são outro dos desafios. São processos relativamente simples quando pensamos em introduzir, mesmo que com algum desenvolvimento, numa área específica, mas ganham uma complexidade distinta quando pensamos nos processos de forma holística. E só desta forma que vemos os processos e que acreditamos que nos agregam valor. A garantia de qualidade dos outputs: assegurar que os algoritmos produzem resultados confiáveis e de alta qualidade é um desafio constante. A necessidade de verificar permanentemente o enquadramento e riscos legais relacionados com a adoção destas tecnologias é outro desafio, ao qual se junta o período de adaptação por parte dos colaboradores a estas novas formas de trabalho e à realidade da IA”.

Vítor Hugo Gonçalves, CEO da Água Monchique

“A IAgen coloca alguns riscos que devem ser endereçados, e há dois particularmente relevantes que são: a alucinação, caso em que o modelo devolve respostas assertivas, mas falsas, e a segurança da informação, pois para que o modelo possa gerar uma resposta é necessário introduzir um pedido ou uma pergunta que podem revelar mais do que efetivamente devemos e a própria resposta pode eventualmente conter elementos protegidos por direitos de autor.

A alucinação é muito preocupante uma vez que não é de fácil deteção. Por exemplo, as respostas às perguntas realizadas nesta entrevista foram inicialmente geradas pela aplicação AskBosch mas, apesar de comunicarem de forma lógica e suportada por relações causa-efeito, continham na verdade vários factos inventados. Como tal, a revisão do conteúdo das respostas foi abandonada e as respostas foram geradas integralmente pelo meu cérebro humano ‘à moda antiga’. Por outro lado, no plano de médio-longo prazo é importante debater os cenários futuros de casos de uso da IA, as limitações regulatórias que devemos impor ao seu desenvolvimento e eventualmente até definir a IA como um direito. Neste sentido, a Bosch criou um código de ética para o desenvolvimento e uso da IA”.

Tiago Sacchetti, diretor da Bosch Industry Consulting