Si habéis llegado hasta aquí sólo me queda daros las gracias por haberme prestado atención durante un ratito.

Cualquier aportación que queráis hacer estáis invitados a compartirla en comentarios.

Suerte a todos con vuestras tesis y espero poder presentaros pronto como...

16/16

🗣️Una vez que ya hablamos el mismo idioma, por fin os puedo contar en QUÉ investigo.

✍️Mi trabajo se centra en explorar métodos de explicabilidad de la IA como el que os acabo de enseñar, detectar sus posibles vulnerabilidades al ser adaptados a entornos críticos y proponer soluciones a estas.

15/16

🧩Conectamos todo...et voilà!

🤩Ya tenemos una manera matemática de que mi maquinita me diga no sólo que me están atacando sino DÓNDE.

✅Un operador ahora podría ir rápidamente a la zona afectada, comprobar el error y tomar medidas antes de que todo colapse.

14/16

🧵Para hacer la conexión vamos a seguir 3 sencillos pasos:

1️⃣Trabajo grupal ➡️ Modelo de IA que me dice la probabilidad de que me estén atacando.

2️⃣Jugadores ➡️ Datos/mediciones que toma el modelo para realizar la predicción.

3️⃣Valor Shapley de cada jugador ➡️ Importancia de cada medición

13/16

🥳Repitiendo esto para cada alumno ya tenemos una manera JUSTA de evaluar su contribución al trabajo original.

👀¿A que mola la teoría de juegos? Pues estamos a punto de conectarla con la IA para llegar a lo que nos preocupa: Poder saber por qué la maquinita me dice que me están atacando.

12/16

📏Vamos a medir la influencia del alumno 🔴.

🔢Para ello nos fijamos en todos los grupos que hemos creado que no le contienen y en cómo su presencia hizo que cambiara la nota.

🧮Estas "contribuciones marginales" las ponderamos para obtener un numerito que resulta ser... su valor Shapley!

11/16

🧐Vamos a verlo con un ejemplo.

💭Imaginemos que tenemos 3 alumnos (🔵🔴🟢) que juntos sacan un 8 en un trabajo. Repetimos el mismo trabajo a cada uno de los subconjuntos y los corregimos, obteniendo los resultados del vídeo.

📐¿Y con esto qué hacemos? Agarraos que vienen curvas matemáticas.

10/16

⚖️Vamos a trasladarnos ahora del aula al mundo de la Teoría de Juegos.

♻️En este mundo podemos repetir el trabajo grupal las veces que queramos a las personas que queramos.

🧾Le mandamos el mismo trabajo a cada uno de los subconjuntos de alumnos del grupo original y vemos qué nota sacan.

9/16

👀Es aquí donde aparece el campo de la IA Explicable, y en concreto el método de Shapley.

🥴Este método nace de una duda que todos los profesores han tenido: ¿Cómo pongo notas individuales a partir de un trabajo en grupo? Porque ya sabemos que en cada grupo siempre hay quien curra y quien no.

8/16

🔌El por qué es esencial en estos entornos críticos ya que parar todo el sistema podría suponer pérdidas MUY grandes (¡Imaginad por ejemplo el riesgo de parar la producción eléctrica de un país entero!)

📌Necesitamos saber dónde está el error para poder aislarlo y mitigarlo correctamente.

7/16

🤔Y entonces ¿dónde está el problema?

🤨Si bien un modelo de IA nos puede dar una respuesta, no nos puede explicar el por qué de ella.

🤐¿Qué significa esto? Que tenemos una maquinita que nos dice que nos están atacando pero no tenemos manera de saber DÓNDE ni POR QUÉ.

6/16

🪩Gracias precisamente a los datos generados por los sensores, podemos "entrenar" a un modelo de IA para que aprenda qué es lo normal en estos sistemas y qué no lo es.

🙌Estos modelos han demostrado tener muy buen rendimiento a la hora de detectar fallos casi invisibles para los humanos.

5/16

‼️Estos ataques pueden escalar muy fácilmente si no se detectan a tiempo y pueden hacer mucho daño.

☢️Por ejemplo, si tenemos un dispositivo encargado de regular la temperatura de un componente químico y un atacante toma el control de este, una fábrica puede desaparecer en cuestión de minutos.

4/16

🛠️En los últimos años las fábricas se han llenado de dispositivos que ayudan a mejorar la seguridad de los trabajadores.

⚠️El hecho de conectar tantos nuevos sensores tiene una parte negativa: Tenemos muchos nuevos puntos de entrada mediante los cuales podrían atacarnos.

3/16

Un modelo de IA (a muy grandes rasgos) es una maquinita capaz de aprender a partir de los datos.

💡Muchos de estos patrones son fáciles de ver (por ejemplo, que con la edad de un niño se puede predecir su talla de pie)

🔬Sin embargo, muchos otros son imposibles de detectar a simple vista.

2/16