A las empresas les preocupa que su afán por adoptar la IA las haya hecho más vulnerables a las ciberamenazas. Según un reciente encuesta De más de 350 líderes de TI, más de la mitad de los ejecutivos encuestados dijeron que la complejidad de las aplicaciones de IA debilitaba la postura de ciberseguridad de su organización. Según otra encuesta, más de dos quintas partes de los ejecutivos creen que sus equipos de seguridad carecen de las habilidades necesarias para proteger sus aplicaciones y cargas de trabajo de IA.
La demanda de soluciones para proteger las aplicaciones de IA ha generado toda una cohorte de nuevas empresas. HiddenLayer y Protect AI, por ejemplo, se centran en defender los sistemas de IA de ataques adversarios, mientras que Cranium proporciona visibilidad de los sistemas de IA a nivel de aplicación.
Una nueva empresa que surge hoy del sigilo, Seguridad Nomahace todo esto y más, afirma el cofundador y director ejecutivo Niv Braun. La startup está desarrollando herramientas para identificar códigos y canalizaciones de datos vulnerables en entornos de ciencia de datos, así como amenazas como ataques de inyección rápida.
Braun lanzó Noma con Alon Tron después de dejar la empresa de automatización de la experiencia del cliente Verint, donde notó un «punto ciego importante» para los equipos de seguridad en el ciclo de vida de los datos y la IA.
«Las herramientas existentes están diseñadas para el ciclo de vida del software tradicional», afirmó Braun. “Sin embargo, el ciclo de vida de los datos y la IA es intrínsecamente diferente. Implica distintos procesos de I+D, se basa en diferentes tecnologías y enfrenta vulnerabilidades técnicas únicas dentro de los modelos de IA”.
Noma está diseñado para ayudar a detectar y corregir errores de configuración en los componentes utilizados para desarrollar y ejecutar aplicaciones de IA. Por ejemplo, la plataforma busca datos «sensibles» en conjuntos de datos de entrenamiento de modelos, como texto que contiene información de identificación personal.
Braun sostiene que las empresas pueden estar mejor equipadas para hacer frente a las amenazas si pueden consolidar las funciones de seguridad de las aplicaciones de IA en un panel que pueda implementarse en entornos autohospedados y basados en la nube.
«Muchas soluciones de seguridad de función única están inundando el mercado, tratando de capitalizar el revuelo de la IA», afirmó. “Al ayudar a las empresas a comprender la huella de sus aplicaciones de IA y brindarles controles de gobernanza, Noma no solo ayuda a las organizaciones a minimizar y mitigar el riesgo, sino que también les brinda la confianza que necesitan para expandir su uso de IA más rápido y a partes más valiosas del negocio. .”
Noma, fundada en 2023, ya tiene clientes de pago, afirma Braun, incluidos clientes de Fortune 500 en software B2B, servicios financieros y comercio minorista. La startup cerró recientemente una ronda de financiación Serie A de 25 millones de dólares que, según Braun, fue adelantada por los inversores; Noma tenía dinero de sobra.
“Decidimos aceptar la [$25 million]incluso con fondos sustanciales todavía en el banco, para acelerar nuestro desarrollo y especialmente nuestros equipos y esfuerzos de comercialización”, dijo, y agregó que Noma planea duplicar el tamaño de su equipo de 20 personas durante el próximo año.
Ballistic Ventures lideró la Serie A de Noma, lo que eleva el capital total recaudado de la compañía a 32 millones de dólares. Noma recaudó 7 millones de dólares en una ronda inicial no revelada anteriormente liderada por Glilot Capital Partners con la participación del Cyber Club London.
