Desenvolvimento de monitoramento de alarmes assistido por inteligência artificial, Parte 2
A conduta responsável dos fornecedores de monitoramento de alarmes é tratar os resultados da IA da mesma forma que uma boa central de monitoramento trata um sinal não verificado.
11/1/20264 min read
Na última vez, começamos nossa exploração das promessas, armadilhas e ritmo da inteligência artificial no monitoramento de alarmes. Vamos continuar nossa análise aprofundada, discutindo os elementos que devem estar presentes para uma implementação bem-sucedida.
O tempo deve fazer parte da equação. Se a IA leva um produto a uma fase testável em uma fração do tempo, o que acontece quando você realmente testa e avalia esse código?
A maioria dos estudos que encontrei são antigos ou avaliaram aplicações codificadas de forma intuitiva, construídas com pouca ou nenhuma equipe de desenvolvimento de software disciplinada realizando testes unitários no produto final.
Os resultados mudam drasticamente.
Ao combinar uma equipe experiente que segue práticas de desenvolvimento disciplinadas com a economia de tempo proporcionada pela IA, os resultados mudam drasticamente — principalmente porque é possível criar ambientes de teste em minutos em vez de dias, detectando bugs e problemas muito mais cedo.
O segundo problema é mais cultural do que técnico: as ferramentas de IA reduzem o nível de habilidade necessário para produzir código com aparência funcional, e é exatamente assim que bugs sutis passam a ser usados em produção.
Uma função gerada que lida corretamente com 95% dos formatos de sinal e lida incorretamente com os 5% restantes de forma silenciosa é muito mais perigosa do que uma que falha de forma evidente, simplesmente por parecer correta.
Em um domínio onde o objetivo principal do software é nunca deixar passar um evento raro, esse é o modo de falha que se deve evitar no projeto — não a falha óbvia, mas a saída incorreta, plausível e confiável. A IA também pode detectar facilmente esses erros, desde que a equipe tenha desenvolvido os modelos de teste adequados para encontrá-los.
Por fim, as plataformas legadas muitas vezes incorporam décadas de conhecimento tácito arduamente conquistado — peculiaridades na forma como fabricantes específicos de painéis reportam sinais, soluções alternativas históricas para bugs de receptores — nada disso está documentado em nenhum lugar onde um modelo de IA pudesse ter aprendido ou sequer sabido que existia.
Ferramentas treinadas com código público gerarão, com segurança, uma lógica aparentemente plausível que ignora completamente essas peculiaridades, pois não têm como saber que elas existem. Isso é especialmente verdadeiro quando se tem muitas partes móveis interligadas, todas tentando funcionar corretamente; um pequeno erro em um módulo pode ter resultados devastadores em todo o resto.
Quão rápido evoluirá o monitoramento de alarmes assistido por IA?
A verdadeira questão é a velocidade com que isso acontece. A resposta honesta: mais rápido do que os processos de conformidade e revisão da indústria estão preparados para lidar. A adoção de programação com IA em outros setores passou de novidade a padrão em cerca de dois anos; a maioria dos desenvolvedores da indústria de software agora usa essas ferramentas diariamente.
Não há razão para que os fornecedores de sistemas de monitoramento de alarmes e as centrais de monitoramento sejam imunes a essa pressão, especialmente os menores, que sofrem maior pressão para produzir mais com menos pessoal de engenharia. As ferramentas aparecerão nesses códigos-fonte, independentemente de a indústria ter ou não chegado a um consenso sobre como revisar o que elas produzem.
Atualmente, existem apenas alguns padrões que especificam como o software de monitoramento de alarmes deve se comportar, e a maioria deles é, na melhor das hipóteses, antiquada e precisa ser modernizada.
Nenhuma delas aborda modelos de governança de software, testes unitários ou mesmo documentação de bugs. O próprio processo de padronização é quase lento demais para acompanhar o ritmo — quando um novo padrão é publicado, ele já foi eclipsado por algo mais recente.
A incompatibilidade é a história.
Essa discrepância é o verdadeiro problema aqui. A curva de desenvolvimento tecnológico é rápida e genérica; a curva de segurança para softwares de proteção à vida precisa ser lenta e específica; e, no momento, ninguém neste setor publicou nada que faça a ponte entre as duas.
Ainda não existe na indústria de alarmes um padrão de codificação segura equivalente ao desenvolvimento assistido por IA, nem orientações públicas da UL, da Monitoring Association ou da Security Industry Association sobre como o código gerado por IA deve ser revisado antes de entrar em contato com a lógica de roteamento de sinais.
Até que isso aconteça, o caminho responsável para os fornecedores é tratar a saída da IA da mesma forma que uma boa central de monitoramento trata um sinal não verificado: útil, rápida e nunca enviada sem antes ser confirmada por um humano.
A oportunidade é real. Assim como a visibilidade. Os fornecedores que acertarem nesse ponto não serão os que adotarem ferramentas de programação com IA mais rapidamente — serão aqueles que descobrirem, antes que um órgão regulador ou uma falha grave levante a questão, o que “gerado por IA, mas verificado” precisa significar para um software do qual a segurança das pessoas realmente depende.
Manter as pessoas informadas é fundamental nesse processo. A IA está impulsionando o avanço tecnológico mais rápido do que nunca, mas isso só torna a participação humana ainda mais necessária, e não menos, no futuro próximo.
A inteligência artificial veio para ficar. Ela já mudou tudo e continuará mudando com o passar do tempo. A transição do processamento de alarmes para um estado futuro será necessária, mas também precisará ser feita com cuidado e atenção. A IA certamente estará lá para ajudar, mas as pessoas também serão essenciais para garantir que ela seja sólida e confiável.
FONTE: https://www.securitysales.com/insights/artificial-intelligence-assisted-alarm-monitoring-development-part-2/621282/