El profesor adjunto más reciente del Instituto IMDEA Software, Kaushik Mallik, procede de Calcuta, en la India, y es un apasionado de la comida, los viajes y la ciencia y las tecnologías. Estudió ingeniería eléctrica, se especializó en sistemas de control en el máster y se doctoró en informática. Sus intereses de investigación abarcan diversos temas en las áreas de métodos formales, sistemas de control y teoría de juegos. Durante su doctorado en el Instituto Max Planck de Sistemas de Software (MPI-SWS), trabajó en el diseño eficiente y verificado de controladores para sistemas ciberfísicos, lo que le hizo ganar el Premio ETAPS 2023 a la Disertación Doctoral. Durante su investigación posdoctoral en el Instituto de Ciencia y Tecnología de Austria (ISTA), trabajó en la creación de un monitor para los responsables de la toma de decisiones de inteligencia artificial con el fin de comprobar sus sesgos de decisión en tiempo de ejecución.
P: Háblenos de su trabajo hasta ahora.
R: Principalmente trabajo en temas relacionados con el diseño de software verificado para sistemas ciberfísicos (CPS). Los sistemas CPS son aquellos en los que el software debe interactuar con componentes dinámicos cuyo comportamiento sigue leyes físicas. En la actualidad abundan los ejemplos de CPS, entre los que se incluyen robots aspiradores, coches autónomos y controladores de sistemas eléctricos. La mayoría de estos sistemas son críticos para la seguridad, y es importante que los componentes de software nunca funcionen mal. Con este fin, desarrollo principios de diseño algorítmico para software CPS que vienen acompañados de garantías formales de corrección. Mis trabajos de los últimos siete años han redefinido el estado del arte en esta materia, donde he desarrollado técnicas más rápidas, modulares y capaces de resolver clases de problemas más ricos en comparación con los enfoques existentes.
Más recientemente, me aventuré en el problema de cómo garantizar la equidad en la IA, donde consideramos que los responsables de la toma de decisiones de la IA se utilizan para tomar decisiones sobre los seres humanos, como preseleccionar o no a un solicitante de empleo, y se requiere que las decisiones no discriminen a las personas en función de sus atributos protegidos, como el género o la raza. Este tipo de comportamientos discriminatorios son bien conocidos en la IA, y se producen debido a los sesgos y estereotipos históricos que suelen estar presentes en los conjuntos de datos de entrenamiento de los modelos de IA. Hemos desarrollado monitores en tiempo de ejecución que observan las decisiones tomadas por los responsables de la IA y, tras cada nueva observación, indican si las decisiones han sido justas o sesgadas hasta el momento. Nuestros monitores no requieren ningún conocimiento del sistema supervisado, por lo que pueden utilizarse como vigilantes independientes de la imparcialidad de los responsables de la IA.
P: ¿En qué trabajará su grupo del Instituto IMDEA Software en un futuro próximo?
R: Los trabajos actuales sobre diseño formal de software CPS se basan intrínsecamente en modelos, lo que significa que su corrección depende de la validez del modelo matemático supuesto de la dinámica subyacente. En realidad, casi siempre hay desajustes entre la dinámica de los SPI y sus modelos supuestos, y los componentes de software de los SPI deben tolerar esos errores de modelado que pueden descubrirse durante el despliegue. Se ha trabajado mucho en la robustez del software CPS frente a las incertidumbres de modelado, aunque las técnicas existentes son a menudo demasiado rígidas y requieren límites fijos apriori sobre los errores de modelado, lo que resulta poco práctico en muchos casos de uso en el mundo real. Mi grupo arreglará esta brecha tanto a nivel teórico como práctico.
P: ¿Qué le atrajo del Instituto IMDEA Software?
R: El Instituto IMDEA Software se ha convertido en uno de los principales institutos de investigación en informática de Europa, atrayendo a algunos de los mejores científicos de sus respectivos subcampos y aportando numerosas becas y distinciones de prestigio, así como colaboraciones industriales. Además, Madrid me ha parecido una ciudad vibrante con un nivel de vida muy alto. Por tanto, fue una elección fácil.
