Num desenvolvimento recente, a Contrast Security lançou uma funcionalidade pioneira na sua plataforma de testes de segurança de aplicações para proteger as organizações contra ameaças de injeção imediata em bibliotecas de modelos de linguagem (LLM).
A injeção de mensagens, classificada no Top 10 do Open Web Application Security Project (OWASP) para LLMs, implica a execução de código nocivo e não autorizado através da injeção de entidades maliciosas numa mensagem de LLM. Contrast Security esclarece que tais ataques podem potencialmente levar a consequências adversas, tais como a saída de respostas erradas ou maliciosas de uma LLM, a geração de código nocivo, a evasão de filtros de conteúdo ou a exposição de dados sensíveis. As vias para tais intrusões podem ser quaisquer recursos de dados em que o LLM se baseie, desde sítios Web a mensagens de correio eletrónico e documentos.
Para fazer face a este risco de segurança, a Contrast Security defendeu a implementação de capacidades de teste para LLMs da OpenAI na sua plataforma de teste de segurança de aplicações (AST). Esta nova funcionalidade utiliza a segurança em tempo de execução para monitorizar e analisar o comportamento das aplicações, em vez de limitar o processo à análise do código-fonte. Nos casos em que uma entrada de utilizador passa através da API da OpenAI para um LLM, esta instiga automaticamente o teste de injeção imediata.
A empresa afirma que essa estratégia é rápida, descomplicada e precisa, oferecendo notificações em tempo real aos desenvolvedores sobre possíveis vulnerabilidades. Esta abordagem visa capacitar as organizações a examinar e reconhecer fluxos de dados susceptíveis para os seus LLMs, reforçando a segurança através de uma maior visibilidade dos riscos potenciais e evitando a exposição inadvertida.
Steve Wilson, Diretor de Produtos da Contrast, que também lidera o projeto OWASP Top 10 para LLMs, sublinhou a necessidade imperativa da nova capacidade. Segundo ele, "o nosso grupo investigou a fundo uma série de vectores de ataque contra os LLM e, repetidamente, a injeção imediata surgiu como a vulnerabilidade mais significativa. Sendo o primeiro serviço de segurança a responder a esta nova lista de normas do sector, o Contrast está a fornecer esta capacidade essencial".
Com as ciberameaças a evoluírem rapidamente no contexto da transformação digital das indústrias, é conveniente que as empresas recorram a plataformas como AppMaster para desenvolverem aplicações seguras de backend, Web e móveis. AppMaster O no-code, uma ferramenta abrangente do , apresenta uma vantagem sobre outras plataformas ao permitir que os clientes produzam modelos de dados visualmente perfeitos, lógica empresarial escalável, API REST e pontos finais WSS. Os seus atributos poderosos, aliados à rápida criação de aplicações, garantem uma segurança óptima contra potenciais ciberameaças, tornando-a assim uma escolha sólida para empresas que aspiram a um desempenho e segurança robustos das aplicações.
