As empresas estão cada vez mais preocupadas com o fato de que sua ânsia em adotar inteligência artificial (IA) as tornou mais vulneráveis a ameaças cibernéticas. De acordo com uma pesquisa recente realizada com mais de 350 líderes de TI, mais da metade dos executivos consultados afirmaram que a complexidade dos aplicativos de IA prejudicou a postura de segurança cibernética de suas organizações. Além disso, mais de dois quintos dos executivos acreditam que suas equipes de segurança não possuem as habilidades necessárias para proteger adequadamente seus aplicativos e cargas de trabalho de IA, conforme revelado em outra pesquisa.
Essa crescente demanda por soluções que protejam aplicativos de IA gerou um verdadeiro boom de startups. Por exemplo, empresas como HiddenLayer e Protect AI focam em defender sistemas de IA contra ataques adversários, enquanto a Cranium oferece visibilidade em sistemas de IA no nível do aplicativo. Esse cenário destaca a urgência em desenvolver estratégias eficazes para mitigar os riscos associados à adoção de tecnologias de IA.
O Surgimento da Noma Security
Um novo empreendimento que está emergindo do stealth é a Noma Security. O cofundador e CEO, Niv Braun, afirma que a startup está desenvolvendo ferramentas inovadoras para identificar pipelines de dados vulneráveis e códigos em ambientes de ciência de dados, além de ameaças como ataques de injeção rápida. Braun lançou o Noma em parceria com Alon Tron, após sua experiência na empresa de automação de experiência do cliente Verint. Durante sua passagem pela Verint, ele percebeu um “ponto cego significativo” nas equipes de segurança, especialmente no ciclo de vida de dados e IA.
Braun destaca que as ferramentas existentes foram projetadas para o ciclo de vida tradicional do software, mas que o ciclo de vida dos dados e da IA é inerentemente diferente. Essa diferença envolve processos distintos de pesquisa e desenvolvimento (P&D), depende de tecnologias diversas e enfrenta vulnerabilidades técnicas únicas dentro dos modelos de IA. Assim, a Noma se posiciona para atender a essa necessidade emergente no mercado.
Soluções Inovadoras para a Indústria
A Noma foi projetada para ajudar as empresas a identificar e corrigir configurações incorretas nos componentes utilizados para desenvolver e executar aplicativos de IA. Por exemplo, a plataforma verifica a presença de dados “sensíveis” em conjuntos de dados de treinamento de modelos, como textos contendo informações pessoalmente identificáveis. Essa abordagem visa não apenas aumentar a segurança, mas também assegurar que as empresas possam operar dentro dos padrões regulatórios.
Braun argumenta que, ao consolidar as funções de segurança de aplicativos de IA em um único painel, as empresas poderão lidar com ameaças de maneira mais eficiente. Essa estratégia permite a implementação de medidas de segurança tanto em ambientes baseados em nuvem quanto em ambientes auto-hospedados. “Muitas soluções de segurança de função única estão inundando o mercado, tentando capitalizar o hype da IA”, diz Braun, destacando a necessidade de uma abordagem mais integrada.
Crescimento e Reconhecimento
Atualmente, a Noma já conta com clientes pagantes, incluindo grandes nomes da Fortune 500 nos setores de software B2B, serviços financeiros e varejo. Recentemente, a startup finalizou uma rodada de financiamento Série A no valor de US$ 25 milhões, com Braun informando que a oferta foi preemptada por investidores. Apesar de já ter um capital considerável em caixa, a Noma decidiu aceitar o investimento para acelerar seu desenvolvimento, assim como para expandir suas equipes e esforços de entrada no mercado.
A Ballistic Ventures liderou a rodada de financiamento Série A, elevando o total de capital levantado pela empresa para US$ 32 milhões. A Noma já havia arrecadado anteriormente US$ 7 milhões em uma rodada de capital semente, liderada pela Glilot Capital Partners, com a participação do Cyber Club London. Esse sucesso inicial indica a confiança do mercado na abordagem inovadora da Noma para resolver questões críticas de segurança em IA.
Perspectivas Futuras
À medida que a Noma se estabelece no mercado, as expectativas em torno de suas ferramentas são altas. A startup não apenas enfrenta um desafio significativo, mas também representa uma oportunidade valiosa para as empresas que buscam integrar a inteligência artificial de forma segura e eficaz. O foco em proteger dados sensíveis e corrigir vulnerabilidades nos pipelines de dados pode ser um divisor de águas na forma como as empresas adotam a IA.
Portanto, à medida que a tecnologia avança, a necessidade de soluções robustas para segurança de IA torna-se ainda mais premente. A Noma, com sua visão e ferramentas inovadoras, está bem posicionada para ajudar organizações a navegar nesse novo e desafiador território. Em última análise, o que está em jogo é a confiança que as empresas terão para expandir suas operações de IA, sabendo que estão protegidas contra ameaças cibernéticas.
FONTE: TECHCRUNCH
