Aprendizaje directivo de tecnología para la transformación digital

Quizá sería bueno reconsiderar el papel de la tecnología y el aprendizaje directivo sobre la misma, con respecto a la transformación digital.

Me explico. 

Tecnología y transformación digital

Siempre he defendido, y muchas veces me he sentido bastante sólo, muy solo realmente, en esa defensa, la importancia de la propia tecnología digital en la transformación digital.

Frente a discursos que la intentan arrinconar y minimizar, frente a discursos que dicen que la transformación digital no va de tecnología (literalmente dicho por muchos autores que se suponen expertos), sino que va de personas, o que va de estrategia, o que va de centrarse en el cliente u otra serie de cosas por el estilo, siempre he afirmado y sigo afirmando, la importancia de la tecnología digital tanto como disparador de la necesidad de transformación como actuando de materia prima para implementar muchas de las soluciones que formarán parte de esa transformación digital.  

Así lo explico en mi primer libro, 'La carrera digital', cuyo tema principal es la transformación digital y en el cual dedico a la tecnología, aproximadamente un tercio del índice y la mitad de las páginas.

Que nadie 'tome el rábano por las hojas'. Por supuesto que reconozco, afirmo y abogo por la estrategia como marco en el que se debe situar la transformación digital. Por supuesto que reconozco, afirmo y abogo por la importancia de las personas, del liderazgo y de la gestión del cambio para una transformación exitosa. Y, de hecho, también dedico amplio espacio a ambos temas en 'La carrera digital'.

Lo que me parece gravemente erróneo es ignorar que el 'hecho diferencial' de la transformación digital (y diferencial no quiere decir que sea exclusivo, sino que es diferencial) es la tecnología digital, y que parte nuclear de la transformación digital es la implantación de soluciones digitales. 

Directivos y tecnología

Ese mensaje, erróneo de que la transformación digital no va de tecnología, creo que ha calado con frecuencia en las capas directivas que, más cómodas en su papel de gestionar la estrategia o la gestión del cambio se pueden haber visto 'absueltas' de tener que entender de tecnología y de formarse en ella.

Así lo reflejé hace ya tiempo en un post bastante crítico que publiqué en este mismo blog y que titulaba 'La transformación digital y la pereza de los directivos'.

Puede que algo esté cambiando

Y, 'mira tú por dónde', ahora que ya me había resignado a seguir escuchando ese discurso de que la tecnología no importa, parece que algo está girando, que el peso de la realidad y la sensatez se está imponiendo. O eso, parece. Y eso espero.

Cuando digo que me había resignado a escuchar el discurso de que la tecnología no importa, no quiere decir que en mi discurso personal y, sobre todo en lo que enseño a mis alumnos de diferentes programas, no les insista en el papel de la tecnología y en que, incluso para ejercer la función directiva en el mundo de hoy, necesitan entender en qué consisten realmente las tecnologías, más allá de discursos inflados, y que deben entender qué les puede aportar a sus empresas y las oportunidades y amenazas estratégicas que se derivan de su existencia. Tengo una responsabilidad con mis alumnos, así que no les puedo engañar hablándoles de una transformación digital sin tecnología.

Cuando digo 'resignado', pues, lo que quiero decir es que no abrigaba ya expectativas de que en el discurso dominante en charlas, libros y artículos, se reclamase el papel de la tecnología, se la situase en el justo punto, donde realmente siempre debería haber estado.

Y, sin embargo, y afortunadamente, en algunos de los últimos libros que he leído sobre transformación digital, parece imponerse el sentido común y se vuelve a hablar de tecnología y a darle importancia.

Y me lo he encontrado, no en libros sobre tecnología, sino en libros sobre 'management'.

Aprendizaje directivo de tecnología

La aportación más reciente en ese sentido me la he encontrado leyendo 'Rewired: The McKinsey Guide to Outcompeting in the Age of Digital and AI' firmado por Eric Lamarre, Kate Smaje y Rodney Zemmel todos ellos de McKinsey Digital.

Bastante al principio del libro realizan esa petición de conocimiento directivo en materia tecnológica. Así, por ejemplo, dicen:

In many cases, the top team lacks both a common understanding of digital and pattern recognition for the business possibilities offered by digital technologies.

Que, 'alabado sea Dios', encaja precisamente con parte de mi discurso en la línea de que los directivos deben ser capaces de entender las oportunidades y amenazas que trae consigo la tecnología digital, y para ello, deben entender realmente en qué consiste, qué puede aportar y cuáles son sus casos de uso principales.

Y, 'alabado sea Dios' de nuevo, abogan por que los directivos se formen en tecnología. En concreto, afirman:

You should plan on having each top executive invest a minimum of 20 hours of learning before they can be ready to productively engage in defining a digital roadmap with their colleagues.

Bueno, pues ahí está puesta 'una pica en Flandes': los directivos deben entender la tecnología y deben formarse en ella si quieren definir un 'roadmap' de transformación digital.

Yo llevo diciéndolo años, sintiéndome muy solo en el empeño.

Ahora lo dice también, entre otros, autores de McKinsey Digital.

Conclusiones

A pesar de discursos superficiales que afirman lo contrario, y que han dominado las publicaciones en el campo del 'management' sobre transformación digital, la tecnología juega un papel muy importante y diferencial en ella y, por tanto, los directivos, sí también los directivos, deben entender esa tecnología y, para ello, deberían formarse en ella.

Y parece que ya no sólo lo digo yo.

Ocho grandes retos de la humanidad en que los robots pueden ayudar

En una probablemente equivocada interpretación de lo que significa realmente la ética de la tecnología, tendemos a destacar los riesgos, los efectos negativos que la misma puede traer y parecemos complacernos en discursos catastrofistas y desde luego negativos.

El discurso del miedo  

A esa proliferación de las visiones negativas contribuyen, todo hay que decirlo, no sólo el miedo o la incomprensión, sino también meros intereses marketinianos, puros intentos de captar la atención del lector con todo tipo riesgos existenciales y no tanto.

Este discurso del miedo, y sobre todo la atención que capta, es bastante paradójico puesto que luego, en el fondo, los humanos, el público en general, ese mismo público que con frecuencia se delecta con los mensajes catastrofistas, es un ávido y entusiasta consumidor de tecnología.

Tecnología y progreso

No confío mucho en conseguirlo, pero abogaría por un discurso mucho más optimista que, en el fondo, es también mucho más realista.

La tecnología no la inventamos porque sí y no se inventa ella a sí misma. La creamos los humanos precisamente para que nos ayude en nuestras labores o para que nos permita hacer cosas nuevas, cosas a veces necesarias y otras, simplemente, placenteras.

Por tanto, y aunque los riesgos y los problemas son reales, aunque existen esos 'efectos colaterales' que debemos conocer y evitar, y aunque la tecnología también puede ser usada con fines oscuros, lo cierto es que la tecnología es, en esencia, buena, es una forma de ayudar a la humanidad generando bienestar y progreso.

Al menos eso es lo que yo creo.

Inteligencia artificial y robots

Y entre las tecnologías que a la vez atraen y a la vez se 'llevan la palma' en esa visión catastrofista, en ese discurso del miedo, en el entendimiento de la ética de la tecnología como mera detección de problemas y desacreditación de la tecnología, se encuentran dos de las que más me apasionan: la inteligencia artificial y la robótica.

Quizá porque son tecnologías muy potentes, quizá porque emulan las historias de ciencia-ficción, quizá porque están de moda, la inteligencia artificial y la robótica son protagonistas habituales de esas 'historias de miedo'.

Y sin embargo, son ya, y desde hace muchos años, especialmente en el caso de la robótica, motores de progreso y de eficiencia.

Los son desde hace años y ofrecen enormes posibilidades de cara al futuro.

Ocho retos donde los robots pueden ayudar

En esa visión positiva y mirando al futuro Daniela Rus, en su libro 'The Heart and the Chip: Our Bright Future with Robots' identifica, ya casi como culminación de la obra, ocho grandes retos de la humanidad donde ella entiende que la robótica y la inteligencia artificial tienen mucho que aportar.

Son estos:

• Salud humana: Se trataría del uso de la inteligencia artificial y robots en tareas de diagnóstico, monitorización y tratamiento. Así, por ejemplo, la inteligencia artificial se utiliza ya en el desarrollo de medicamentos, permitiendo la particularización para grupos reducidos e incluso personas concretas en lo que se denomina la medicina personalizada o de precisión. La autora sugiere también la posibilidad de desarrollar microrrobots que serían simplemente ingeridos como cápsulas y que evitarían muchas intervenciones quirúrgicas. Unos microrrobots que podrían no sólo hacer ellos mismos ciertas labores terapéuticas sino también comunicarse con un médico en el exterior quien podría dirigir al robot. La autora también menciona un desarrollo de su laboratorio, una silla robótica que mantiene al paciente en perfecta orientación para tratamientos con haces de protones. Rus no lo indica, pero supongo que cabría aquí incluir el desarrollo y mejora de los ya existentes robots quirúrgicos.


• Seguridad alimenticia: El crecimiento de la población por un lado, junto con problemas derivados del cambio climático por otro, hacen cada vez más importante conseguir sistemas eficientes de producción y entrega de alimentos. En lo relativo a la entrega, la autora nos habla de pequeños robots voladores a baja altura sin interferir con la aviación comercial (en el fondo creo que se trataría de drones) para, por ejemplo, la entrega de productos frescos limitando la dependencia de cosechas cercanas. También sugiere el uso de robotización en una especie de gestión de stocks automatizada, capaces de detectar excesos y carencias y, unidos a ágiles sistemas de transporte, conseguir la redistribución de alimentos, todo ello con el objetivo de minimizar el desperdicio de comida. También apunta a cosechadoras robotizadas y autónomas así como el desarrollo de la denominada agricultura vertical dentro de contenedores robotizados en el exterior de edificios.


• Energía y electricidad: Por un lado apunta a la urgente necesidad de reducir el consumo de energía de los propios sistemas de inteligencia artificial pero también señala otras soluciones como la robotización de paneles solares para mejorar su aprovechamiento energético optimizando su orientación e incluso paneles móviles que busquen el mejor punto de exposición. También sugiere el uso de drones para supervisar problemas en generadores eólicos. En el ámbito doméstico, y usando como ejemplo su propia casa, sugiere una robotización que optimice de manera automática el consumo eléctrico apagando y encendiendo elementos según necesidades.


• Sostenibilidad: Aunque el problema del cambio climático y de la sostenibilidad no es de fácil solución y parece precisar sobre todo la disminución de la huella de carbono, la autora sugiere algunas ayudas posibles del cambo de la robótica. Una que es audaz pero que está sobre la mesa es la posibilidad de lanzar al espacio pequeñas naves dotadas de paneles que lo que harían sería disminuir la cantidad de rayos solares que llegan a la Tierra, reduciendo así la temperatura. También menciona la técnica denominada 'secuestro de carbono' que lo que pretende es realizar una suerte de fotosíntesis artificial, consumiendo CO_2.


• Aguas limpias: De cara a conseguir aguas más limpias, a eliminar, por ejemplo, el exceso de nitrógeno, Rus propone alguna solución robótica curiosa como crear unos robots que emulen la labor de limpieza que realizan moluscos bivalvos como las ostras e incluso incrementarlos con capacidades, por ejemplo, para eliminar plásticos y microplásticos.


• Exploración en la Tierra: se trata del uso de robots en la exploración de lugares donde al hombre le cuesta llegar, por ejemplo en profundidades marinas o para ayudarnos a entender nuestro propio cerebro.


• Exploración en el espacio: Se podrían, por ejemplo, desplegar máquinas autónomas en la Luna o Marte para realizar labores que acondicionasen el lugar, permitiendo posteriormente enviar a astronautas humanos. Igualmente se podrían lanzar sistemas robóticos para la exploración de estrellas.


• Verdad y democracia: Una línea de trabajo curiosa que propone el uso de robots e inteligencia artificial para limitar la manipulación de información. Por ejemplo, la posibilidad de flotas de drones filmando espacios públicos con la intención de que no se pueda manipular lo que allí esté sucediendo, o el uso de sistemas como starlink para proporcionar acceso global a Internet. También sugiere técnicas basadas en inteligencia artificial para detectar deep fakes o todo tipo de manipulaciones de imágenes y vídeos o el uso de robots como una especie de buscador físico que permitiera, por ejemplo, a los esquiadores conocer el estado de las pistas o a los responsables de plantas industriales conocer el estado del proceso de fabricación.

Se trata sólo de una muestra ideas que apunta alguien tan autorizado como Daniela Rus. Algunas creo que ya se están haciendo, al menos en estadios iniciales, otras parecen fantásticas, aunque viniendo de donde viene la propuesta seguro que son viables.

En cualquier caso, está claro que abren un mundo de posibilidades.

Conclusiones

Las ideas de Rus son sólo eso, algunas posibilidades de usar la tecnología y particularmente la inteligencia artificial y la robótica para revolver grandes retos de la humanidad.

Sería bueno que sirviesen como inspiración para la acción y, además, para soslayar el pesimismo y el discurso del miedo y para demostrar el enorme potencial para el bien que tiene la tecnología.

Confiemos en ella y usémosla en esa dirección.

Redes neuronales líquidas: ¿una nueva revolución en la IA?

Aunque existen muchas tipologías de algoritmos de inteligencia artificial, no cabe duda de que los grandes protagonistas de los avances de los últimos años los protagonizan las llamadas redes neuronales artificiales, conformando lo que se conoce como deep learning.

Redes neuronales: tamaño y complejidad

Las redes neuronales han ido evolucionando incluyendo nuevas arquitecturas, nuevos algoritmos en sus funciones de entrada (por ejemplo, la convolución) o funciones de activación, nuevas formas de conexión incluyendo realimentaciones (como en redes recurrentes), nuevas formas de conseguir contexto (atención y autoatención), etc

Sin embargo, un patrón más o menos común es que, conforme las redes neuronales aumentan su potencia, y otras variaciones arquitecturales aparte, lo hacen creciendo en el número de capas, en el número de neuronas por capa, y por tanto en el número de pesos (parámetros), etc.

De hecho, en los modelos de tipo GPT, por ejemplo, nos movemos en órdenes de magnitud de muchos miles de millones de parámetros, superando, en algún caso ampliamente, el número de neuronas del cerebro humano.

Ese tamaño es problemático por su dificultad intrínseca, por la enorme cantidad de datos necesarios para su entrenamiento, por su consumo eléctrico, etc.

Algo no estamos haciendo bien del todo cuando necesitamos redes neuronales más complejas, al menos en volumen, que el propio cerebro humano y con unos resultados que, aunque cada vez más espectaculares, distan, con mucho, de alcanzar los de nuestro órgano rector.

Un atisbo de solución en este sentido, pudieran ser las denominadas redes neuronales líquidas.

Mirando de nuevo a la naturaleza

Como ha ocurrido en tantas ocasiones en el desarrollo de la inteligencia artificial, algunos científicos han buscado la inspiración en la propia naturaleza. 

Existe un pequeño animal, una lombriz denominada C-elegans que puede arrojar luz. Se trata de una lombriz cuyo cerebro consta, únicamente, de 302 neuronas lo que ha permitido su estudio detallado. En efecto, los propios biólogos han logrado entender bastante bien cómo funcionan las neuronas de este animal y lo que han encontrado es que, en esencia, las neuronas de estas lombrices implementan algo parecido a una ecuación diferencial.

Se trata de un cálculo bastante más complejo que el que realizan las neuronas artificiales de casi cualquier arquitectura de red neuronal 'normal'. No voy a entrar ahora en ello, ya describí las funciones de transferencia y activación más comunes en algún post hace un tiempo, pero, en esencia decir que, mientras las neuronas artificiales habituales implementan funciones matemáticas relativamente sencillas, el modelo de una neurona artificial imitando a las de la lombriz C-elegans supone implementar funciones procedentes del cálculo diferencial.

Las redes líquidas.

En concreto, un equipo dirigido por Daniela Rus en CSAIL, tal y como nos lo describe en el libro 'The heart and the chip', ha conseguido desarrollar, con base en estos principios, lo que denominan las redes neuronales líquidas.

Las neuronas de estas redes implementan una ecuación diferencial y además tiene parámetros 'líquidos', en concreto una constante de tiempo, que se va adaptando conforme a las entradas que recibe, consiguiendo de esta manera una adaptación a nivel de neurona individual.

El equipo del MIT bajo el liderazgo de Rus, ha realizado una comparativa en el caso de vehículos autónomos, comparando una red neuronal estándar, de más de 100.000 neuronas, con una red líquida de sólo 19 neuronas.

Con esta mínima red líquida, se consiguió aprender cómo conducir con base en la observación de cómo lo hacía un humano. En cierto modo, la red se enseñó a sí misma cómo asociar los movimientos de conducción (volante, ruedas, etc) para reaccionar a la curvatura de la carretera.

Aparte de en el libro mencionado, Rus describe este tipo de redes y el experimento de conducción autónoma en la TED Talk titulada 'How AI will step off the screen and into the real world'.

La autora añade que, además, en unas redes tan simples es más fácil comprender por qué la red hace lo que hace, algo que pudiera trasladarse luego, por ejemplo, a un árbol de decisión comprensible por humanos, logrando así la tan traída y llevada (y tan compleja de conseguir) explicabilidad.

Añado de mi cosecha, la consideración de que este tipo de redes podrían ser también una gran contribución a, estimo, un drástico ahorro energético y disminución de huella de carbono, en comparación con sus primas las redes neuronales que tenemos hasta la fecha.

Y creo, igualmente, que facilitaría la inclusión de algoritmos muy avanzados en unos chips mínimos, permitiendo llevar la inteligencia a caso cualquier elemento artificial. 

Conclusión: ¿La solución a nuestros problemas?

La idea parece, pues, tremendamente interesante y prometedora.

Me llama la atención, sin embargo que, y a lo mejor es 'culpa' mía, apenas he oído hablar de este tipo de redes líquidas hasta la fecha.

Me malicio que tienen algún tipo de limitación que les impide ser todavía una alternativa realista a gran escala y tiendo a imaginarme que todavía son más materia de investigación que de producción comercial masiva. 

No estoy seguro, pero intentaré permanecer a atento porque la propuesta es interesantísima y, de ser exitosa, podrían dar un nuevo vuelco al mundo de las redes neuronales, y por tanto al de la inteligencia artificial y casi diría que a nuestra economía y sociedad.

Intentando centrar el pensamiento computacional

Se suele decir, probablemente con razón, que una de las cualidades que deberíamos desarrollar, uno de los elementos que debería estar presente en la educación de nuestros jóvenes, es el pensamiento computacional.

Y creo que es cierto, pero ¿Qué es eso exactamente?

Pensamiento computacional

Bueno, lo cierto es que no parece existir una delimitación clara de qué es realmente eso del pensamiento computacional o al menos yo no la he encontrado.

De una forma vaga, podríamos decir que es un forma de pensamiento similar a la que se utiliza para la definición de lógicas y algoritmos en el mundo de la computación.

El valor, creo, de ese pensamiento computacional es doble.

En primera instancia, nos prepara, precisamente, para hacer ese diseño de programas informáticos, ya sea mediante codificación directa o mediante herramientas de más alto nivel como acoge la filosofía 'Low-Code' o 'No-code'.

A pesar de esa innegable utilidad, en realidad es casi un aspecto secundario. Lo que, realmente, creo que es mucho más importante que eso, y que justifica la propuesta de incluir de forma generalizada en la educación, es que moldea la mente y una manera de pensar que nos ayuda a enfrentarnos de manera muy efectiva a problemas de cualquier tipo, no necesariamente en computación, no necesariamente siquiera del mundo técnico y de la ingeniería, sino también problemáticas propias de las ciencias sociales o las humanidades y también del día a día.

Pero dicho esto, y a pesar de que estoy convencido de ello, lo cierto es que resulta paradójicamente complejo delimitar en qué consiste exactamente eso del pensamiento computacional (aunque probablemente, quien haya hecho 'con sus propias manos' desarrollo software, lo tenga intuitivamente bastante claro).

Hace ya un tiempo, traje a este blog en el post titulado 'Sobre el pensamiento computacional', la propuesta de Conrad Wolfram con una propuesta.

La propuesta de Daniela Rus

Leyendo el libro 'The Heart and the Chip: Our Bright Future with Robots' de Daniela Rus, directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, me encuentro con una nueva propuesta, la verdad que bastante diferente, acerca de lo que caracteriza el pensamiento computacional.

En concreto, Rus destaca cuatro elementos, a saber:

• Descomposición: descomposición de los problemas en subproblemas, piezas resolubles.


• Modularización: división de un sistema en módulos, o componentes, cada uno de los cuales realiza una función definida y que son capaces, tanto de operar independientemente como formando parte de un sistema mayor.


• Abstracción: eliminación de detalles y generalización de los atributos relacionados con una tarea.


• Composición: Proceso de recombinar dos o más problemas.

La propuesta de Daniela Rus incide mucho en la descomposición en elementos, tanto en un nivel más lógico como subproblemas, como en un nivel más operativo, incluso técnico, en módulos o componentes. Creo intuir en la propuesta de Rus la experiencia en el mundo hardware y de los sistemas hardware/software, muy comprensible dada sus especialización en robótica.

Algunos elementos más de mi cosecha

Aunque valiosa, y más viniendo de quien viene, creo que la propuesta de Rus se queda bastante corta para explicar el pensamiento computacional.

Aunque confieso y aviso que no lo he pensado mucho, sino que es un 'bote pronto', echo de menos cosas que, al menos en mi experiencia, son muy importantes.

Por un lado la aplicación continua de una lógica rigurosa y muy exacta, sin la más mínima ambigüedad. Siempre suelo decir que 'los ordenadores son tontos'. En programación, especialmente en la programación más tradicional, hay que ser muy rigurosos, muy exactos en las instrucciones que se dan. Si no se hace así, el programa falla y a veces de la manera más inesperada. Esa lógica rigurosa y sin ambigüedad supone un notable esfuerzo al principio pero también es una forma fantástica de moldear el pensamiento. Y es algo que, y que me perdonen los afectados, echo muy en falta en la manera de razonar de incluso grandísimos intelectuales en campos propios de las humanidades y ciencias sociales.

Me resulta difícil darle un nombre, pero otra característica típica del pensamiento computacional es lo que voy a denominar 'encaje en bloques constructivos limitados'. ¿A qué me refiero? Bueno, pues que los entornos de programación el número de instrucciones (en lenguajes de programación tradicionales) o, en general, el número de herramientas o bloques constructivos disponibles para resolver el problema están acotados, son finitos y relativamente escasos. Y con esas instrucciones o con esos bloques, tienes que ser capaz de realizar el sistema o el software con la funcionalidad deseada o requerida. Se trata de nuevo de un ejercicio en ocasiones difícil pero muy creativo y desafiante, y que moldea extraordinariamente bien la mente en ese luchar por encontrar cómo usar las herramientas disponibles para resolver un problema, esa resolución de problemas con herramientas o bloques constructivos acotados.

Y, aunque eso sí lo indica Daniela Rus, profundizaría más en la abstracción, la traslación de los elementos de la vida real, tanto físicos como intangibles, a modelos conceptuales tanto en el campo de los datos y sus relaciones como las lógicas de proceso o transformación de datos. En mi experiencia, tanto docente, como de mera ayuda a profesionales más jóvenes, siempre he visto que esa abstracción es algo que cuesta muchísimo, especialmente cuando no se procede de disciplinas científicas e, incluso cuando, simplemente, no se ha trabajado y practicado con software. Pero, de nuevo, conseguir esa capacidad de abstracción es intelectualmente potentísimo.

Es posible que si lo pienso más se me ocurran más características, pero de momento lo dejo aquí.

Conclusiones

El pensamiento computacional, aunque hay bastante coincidencia en su interés, y necesidad de traslación a todos los ámbitos educativos como una capacidad casi nuclear es, sin embargo, algo vagamente definido, al menos hasta donde me ha sido dado ver.

En este post hemos visto la propuesta de Daniela Rus que he complementado con unas aportaciones propias fruto de mi experiencia y reflexión, aunque ésta última algo precipitada.

Equipos multidisciplinares para una robótica responsable y segura

Estamos cada vez más acostumbrados a escuchar las bondades de los equipos mutidisciplinares, en diferentes campos, y muy de interés para mi, cuando se trata de aportar visiones éticas a elementos de tecnología como son la inteligencia artificial y la robótica.

Los equipos multidisciplinares

Los equipos multidisciplinares, y más si son complementados con diversidad no sólo de conocimiento, sino también de género, edad, cultura, etc, suelen recomendarse como motores de innovación. ¿Por qué? Pues porque aportan diferentes perspectivas para una misma problemática y, por tanto, también diferentes formas posibles de solución.

Innovación aparte, a los equipos multidisciplinares se les adjudica, lo cual tiene sentido, no sólo capacidad innovadora sino también integradora, de nuevo con base a el conocimiento polifacético que aportan.

¿Qué tipo de componentes deberían integrar un equipo multidisciplinar?

Seguramente depende de la temática concreta que queramos abordar, pero vamos con un caso concreto.

Un equipo multidisciplinar para robótica segura

En su libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, nos habla de los riesgos y dificultades para conseguir una operación segura de los robots. Riesgos que derivan tanto de errores en el propio diseño o entrenamiento de los robots como de ciberataques malintencionados por parte de terceros.

Y nos cuenta que en el CSAIL que ella dirige, cuando inician un proyecto de desarrollo de tecnología robótica dedican tiempo en las fases iniciales a estudiar los diferentes riesgos e identificar posibles malos usos así como a entender las implicaciones éticas, regulatorias, etc. Nos cuenta, en concreto, cómo al iniciar un proyecto sobre vehículo autónomo tuvieron unas muy fructíferas sesiones de brainstorming en ese sentido, y nos propone un equipo multidisciplinar para proyectos similares.

Estos serían los perfiles de ese equipo  

• Tecnólogos: Que entienden los fundamentos científicos y técnicos, la realidad actual y las posibilidades futuras.


• Expertos en seguridad: Conocedores de las mejores prácticas en ciberseguridad y cómo trasladarlas a la robótica


• Hackers éticos: Especializados en localizar vulnerabilidades en todo tipo de sistemas, en este caso de naturaleza robótica.


• Legisladores: Que aportan la perspectiva de las administraciones generales y locales.


• Criminólogos: con conocimientos y capacidad para imaginar cómo un actor malicioso pudiera usar la tecnología con fines perversos.


• Escritores de ciencia ficción: así como cineastas, artistas y, en general, personas que aportan imaginación para proponer escenarios, futuros diferentes y posibles impactos de la tecnología.


• Eticistas: Que pueden guiar, con perspectiva ética, las acciones y tomas de decisión tanto de las propias máquinas como de quienes las construyen.


• Economistas: Para imaginar cómo la tecnología puede beneficiar al máximo número de personas y no sólo a los más ricos.


• Inversores: Que aportan la visión sobre el proyecto puede alcanzar un nivel suficiente de financiación

Un panorama amplio, como se puede ver, de especialistas. 

Un equipo de trabajo, se me ocurre pensar, que probablemente no tenga sentido mantener de manera permanente, pero que sí puede ser muy fructífero en las fases iniciales de ideación y planteamiento y, quizá, en alguna revisión intermedia a medida que avanza el proyecto.

Otros perfiles

Rus apunta a que se pueden incluir otros perfiles como abogados, expertos de aseguradoras, etc, pero ya no entra en más detalles y tampoco lo haré yo aquí.

Conclusiones

Los equipos mulidisciplinares, aunque seguramente sean más complejos de conformar y gestionar, aunque puede que no sean necesarios de forma permanente ni en todas las situaciones, pueden aportar un enriquecedora visión multiperspectiva que ayude a anticipar y evitar riesgos, a conseguir una tecnología más responsable y, ya de paso, también más innovadora.

Una lista de tareas para el futuro de la robótica

La robótica, seguramente como una buena parte de la tecnología, avanza a gran velocidad.

Avances en robótica e inteligencia artificial

Es cierto que a veces confundimos los avances de la robótica como tal, con los de la inteligencia artificial en la que con frecuencia se apoya. 

La robótica es mucho más amplia e incluye elementos como materiales, sensores, algoritmos de control no necesariamente basados en la inteligencia artificial, colaboración, algoritmos de coordinación como los que se necesitan en 'swarm robotics', etc. 

Pero no cabe duda de que la robótica se beneficia, y cada vez más, de los algoritmos que aporta la inteligencia artificial para todo lo que tiene que ver con percepción, con planificaciones complejas, con capacidades cognitivas y así un largo etcétera.

En cualquier caso, en lo relativo a la inteligencia artificial, y en la parte más puramente robótica, no cabe duda de que avanzamos y avanzamos mucho.

La lista de tareas

Pero, a pesar de esos grandes avances, está claro que hay muchas más posibilidades, muchas más problemáticas por revolver, muchos logros por conseguir.

En el libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, propone una lista de nueve temáticas que la robótica debería afrontar, lo que ella denomina la 'to-do list'. 

Estos son los puntos de la lista:

• Manos más sensible e inteligentes: Aunque el posicionamiento de la mano del robot hasta las cercanías de un objeto a manipular se consigue perfectamente, en el acercamiento final pueden producirse todavía desalineamientos. La autora sugiere el desarrollo de manos que sepan tratar con un cierto grado de incertidumbre, manos que sepan diferenciar entre los materiales de los objetos que agarran y manos capaces de ajustar bien (aunuqe ya hay avances y realizaciones en ese respecto) la fuerza que aplican sobre el objeto.


• Robots más suaves y seguros: Los robots tradicionales son duros, pesados e incluso peligrosos para los humanos en caso de accidente, lo que hace que con frecuencia en entornos industriales permanezcan claramente separados de los humanos. Aunque ya existen los denominados cobots capaces de colaborar con humanos de forma segura, Rus sugiere que deberíamos avanzar en el desarrollo de robots blando, más seguros y más inteligentes desde un punto de vista físico para evitar eventuales daños. Esto incluiría el avance en el desarrollo de la piel artificial que informe de contactos incluso cuando no hay visión directa.


• Unos robots menos 'robóticos': En este caso se refiere al propio movimiento de los robots que, en general, es rígido, a veces incluso diríamos que torpe. Un movimiento más natural permitiría una mejor ayuda a los humanos, por ejemplo, a ancianos. También apunta la autora a que un comportamiento más suave, menos brusco, ayudaría en el caso de los vehículos autónomos a una mejor convivencia con conductores o peatones humanos.


• Métodos mejores para construir robots: La construcción actual de robots es compleja y se precisa personal especializado. La autora apunta a la necesidad de disponer de mecanismos de construcción de robots más simples. Entre otras cosas apuesta por el diseño y construcción simultáneos de los elementos físicos y los de control e inteligencia y el apoyo en herramientas de simulación.


• Mejores músculos artificiales: Los músculos artificiales son una forma de actuadores que hasta cierto punto emulan el funcionamiento de los músculos de un ser vivo. La autora aboga por el desarrollo de mejores músculos artificiales, en general pequeños y blandos, y capaces de ejercer presión de una forma más continua y suave.


• Baterías más potentes: Baterías más pequeñas, de vida más larga y con mayores densidades de energía. Baterías también menos pesadas y, eventualmente, incluso blandas.


• Mejores sensores: A pesar de los formidables avances en percepción, por ejemplo en visión artificial, la autora entiende que estamos aún muy lejos de conseguir algo que se parezca, por ejemplo, a la vista humana. Tambien insiste en su interés en sensores de contacto parecidos a la piel de los seres vivos.


• Cerebros más rápidos: donde se refiere al hardware y, en concreto los procesadores como los GPU. Entiende que se necesita avanzar en chips más pequeños, de más bajo consumo pero de alta potencia de cálculo y adecuados a las operaciones necesarias, por ejemplo, en machine learning.


• Poder hablar de forma natural a los robots: Reconoce el formidable avance que suponen modelos como los que respaldan ChatGPT pero entiende que aún hay trabajo por hacer para conseguir una interacción natural y que, en el caso de los robots, tendría mucho que ver con la traducción de palabras en acciones.

Una buena e interesante lista, sin duda.

Conclusiones

Es posible que la lista que propone Daniela Rus este influenciada en parte por el trabajo que realmente se hace en el CSAIL, que ella dirige, pero creo que marca líneas de trabajo muy interesantes y bien fundamentadas y desde luego es una voz a la que vale la pena atender.

Habrá que estar atentos para ver si realmente se avanza en estas líneas de trabajo. 

Ojalá que sí.

Gestión de la ciberseguridad paso a paso con CAballero, BAus y CIlleros.

'Ciberseguridad paso a paso' es, evidentemente, un libro sobre ciberseguridad, pero más que seguir el esquema habitual de describir los tipos de ataques y las soluciones técnicas o procedimentales, se centra en la gestión de la ciberseguridad pensando sobre todo en empresas pequeñas. Por ello los autores, adoptan el enfoque de los 'frameworks de ciberseguridad' pero, en lugar de elegir uno existente, como pudiera ser el del NIST, proponen su propio framework al que denominan CABACI que, 'oficialmente' responde al acrónimo "Cybersecurity Analysis, Building, And Adaptive controls for Improvement" y que, 'casualmente' se corresponde con los apellidos de los autores: CAballero, BAus y CIlleros.

El framework es de naturaleza jerárquica, existiendo una primera división en tres grandes dominios, sobre los que se establecen controles y defensas asociadas, agrupando, además, controles y defensas en niveles básico y avanzado.

Dado que una gran parte del libro se centra en desarrollar y explicar este framework, y a pesar de que sea un poco largo, me parece relevante resumir su estructura, que es como sigue:

• DOMINIO: ORGANIZACIÓN Y RIESGOS
  • Nivel básico
    • Control 1. Estrategia de negocio y organización.
      • Defensa 1.1. Prioridades en la organización.
      • Defensa 1.2. Organización de ciberseguridad.
      • Defensa 1.3. Normativa de ciberseguridad.
    • Control 2. Diseño tecnológico y gestión de activos.
      • Defensa 2.1. Diseño tecnológico y de ciberseguridad.
      • Defensa 2.2. Gestión de activos tecnológicos e inventario.
    • Control 3. Gestiona tus ciberriesgos.
      • Defensa 3.1. Identifica tus amenazas y riesgos.
      • Defensa 3.2. Gestiona y prioriza tus riesgos.
      • Defensa 3.3. Ciberseguro.
    • Control 4. Seguridad en proveedores.
      • Defensa 4.1. Identifica a tus proveedores tecnológicos.
      • Defensa 4.2. Evaluación continua de la ciberseguridad de tus proveedores.
    • Control C2. Cultura cibersegura.
      • Defensa C2.1. Cultura cibersegura para empleados.
      • Defensa C2.2. Cultura cibersegura para stakeholders.
  
  
• DOMINIO: PROTECCIÓN
  • Nivel básico
    • Control 5. Protege tus redes wifi.
      • Defensa 5.1. Segmentación de la red corporativa.
      • Defensa 5.2. Configuraciones seguras en redes inalámbricas.
      • Defensa 5.3. Redes de invitados y políticas de uso.
    • Control 6. Protege tus dispositivos y sistemas.
      • Defensa 6.1. Política de uso responsable de dispositivos o sistemas.
      • Defensa 6.2. Control de inventariado y gestión de dispositivos.
      • Defensa 6.3. Control de antimalware.
      • Defensa 6.4. Implementación de firewall local.
      • Defensa 6.5. Análisis de vulnerabilidades.
      • Defensa 6.6. Parcheo de vulnerabilidades.
      • Defensa 6.7. Cifrado y firma de correos electrónicos.
    • Control 7. Protege tu correo electrónico.
      • Defensa 7.1. Antispam y antiphishing.
      • Defensa 7.2. Ejercicios de phishing.
      • Defensa 7.3. Protección frente al malware.
      • Defensa 7.4. Medidas antispoofing.
      • Defensa 7.5. Cifrado y firma de correos electrónicos.
    • Control 8. Protege tus datos.
      • Defensa 8.1. Protección de la información almacenada.
      • Defensa 8.2. Prevención ante la pérdida o fuga de información.
      • Defensa 8.3. Gestión de claves de cifrado.
      • Defensa 8.4. Segregación de información sensible.
      • Defensa 8.5. Anonimización y pseudonimización de datos.
      • Defensa 8.6. Cumplimiento de las regulaciones de privacidad.
    • Control 9. Protege tu página web.
      • Defensa 9.1. Uso de firewalls de aplicaciones web (WAF).
      • Defensa 9.2. Protección DDoS de las aplicaciones.
      • Defensa 9.3. Uso de protocolos seguros en aplicaciones web.
      • Defensa 9.4. Protección frente a bots.
      • Defensa 9.5. Seguridad en APIs.
    • Control 10. Protege las credenciales de acceso.
      • Defensa 10.1. Gestión del ciclo de vida de los usuarios.
      • Defensa 10.2. Gestión de contraseñas robustas y rotación.
      • Defensa 10.3. Uso de autenticación multifactor (MFA).
      • Defensa 10.4. Gestión de permisos y privilegios.
    • Control 11. Protege tus redes sociales.
      • Defensa 11.1. Concienciación en protección de redes sociales.
      • Defensa 11.2. Uso de credenciales robustas y autenticación de dos factores en redes sociales.
      • Defensa 11.3. Configuraciones de seguridad y privacidad.
      • Defensa 11.4. Seguimiento selectivo en redes sociales.
      • Defensa 11.5. Prevención de phishing y fraude en redes sociales.
      • Defensa 11.6. Gestión de la reputación en línea en redes sociales.
  
  
  • Nivel avanzado
    • Control 15. Protección avanzada de redes.
      • Defensa 15.1. Arquitectura segura.
      • Defensa 15.2. Segmentación de redes.
      • Defensa 15.3. Uso de firewalls de red.
      • Defensa 15.4. Protección frente a intrusiones.
      • Defensa 15.5. Protección de las conexiones remotas.
      • Defensa 15.6. Uso de tecnologías avanzadas de protección de la red.
    • Control 16. Cloud cibersegura.
      • Defensa 16.1. Política de ciberseguridad cloud.
      • Defensa 16.2. Framework de controles cloud.
      • Defensa 16.3. Protección de los datos y repositorios cloud.
      • Defensa 16.4. Protección de entornos SaaS.
      • Defensa 16.5. Monitorización efectiva.
    • Control 17. Protección avanzada de dispositivos y sistemas.
      • Defensa 17.1. Implementación de IDS/IPS local.
      • Defensa 17.2. Guías de bastionado.
      • Defensa 17.3. Gestión de privilegios.
      • Defensa 17.4. Uso de sandbox.
    • Control 18. Desarrolla de manera segura.
      • Defensa 18.1. Política de desarrollo seguro de software (S-SDLC) e implementación en terceros.
      • Defensa 18.2. Guías de desarrollo seguro.
      • Defensa 18.3. Auditoría de código y pruebas de intrusión.
      • Defensa 18.4. Gestión segura de las sesiones de usuario.
      • Defensa 18.5. Verificación de dependencias y componentes de terceros.
      • Defensa 18.6. Política de seguridad de contenido (CSP).
    • Control 19. Control de accesos avanzado.
      • Defensa 19.1. Uso de sistemas de gestión de identidad y accesos (Identity and Access Management Systems, IAM).
      • Defensa 19.2. Segregación de funciones.
      • Defensa 19.3. Gestión de cuentas privilegiadas.
      • Defensa 19.4. Uso de Single Sign-On (SSO).
      • Defensa 19.5. Uso de la federación de identidades.
      • Defensa 19.6. Uso de tecnologías CIAM (Customer Identity and Access Management).
    • Control C2. Cultura cibersegura.
      • Defensa C2.3. Cultura cibersegura sobre medidas de protección.
  
  
• DOMINIO: DETECCIÓN, RESPUESTA Y RESILIENCIA
  • Nivel básico
    • Control 12. Responde a los ciberincidentes.
      • Defensa 12.1. Plan de respuesta a incidentes actualizado.
      • Defensa 12.2. Roles y responsabilidades en la respuesta.
      • Defensa 12.3. Detección y evaluación del incidente.
      • Defensa 12.4. Gestión y resolución del incidente.
      • Defensa 12.5. Notificación del incidente.
    • Control 13. Copias de seguridad.
      • Defensa 13.1. Copias de seguridad.
    • Control 14. Feeds de información y brechas de seguridad.
    • Control 14.1. Feeds de información y brechas de seguridad.
  
  
  • Nivel avanzado
    • Control 20. Monitorización continua de ciberseguridad.
      • Defensa 20.1. Define los activos tecnológicos a monitorizar.
      • Defensa 20.2. Registra tus logs.
      • Defensa 20.3. Establece la monitorización de tu red.
      • Defensa 20.4. Monitorización continua de ciberseguridad.
      • Defensa 20.5. Gestión de eventos de ciberseguridad (SIEM).
      • Defensa 20.6. Security Operations Center.
    • Control 21. Respuesta avanzada.
      • Defensa 21.1. Capacitación de la respuesta.
      • Defensa 21.2. Tecnología en la respuesta.
      • Defensa 21.3. Ejecución de la respuesta a incidentes.
    • Control 22. Gestión continua de vulnerabilidades.
      • Defensa 22.1. Ciclo de vida de la gestión de vulnerabilidades.
    • Control 23. Resiliencia.
    • Control 23.1. Recuperación de incidentes.
    • Control C2. Cultura cibersegura.
      • Defensa C2.4. Ciberejercicios o simulacros de ataque.

Comienza el libro con un primer capítulo '1. Ciberseguridad y cómo construir tu estrategia' de naturaleza introductoria y en el que, tras una breve incursion sobre las tecnologías digitales, se plantea el problema del cibercrimen, explica qué es un hacker, aporta conceptos básicos de ciberseguridad y luego ya se centra en el planteamiento de una estrategia de ciberseguridad. Para la definición y gestión de la estrategia de ciberseguridad, los autores proponen un esquema con cuatro pasos, a saber:

• Entiende tu entorno de amenazas
• Evaluáte a ti mismo ¿Dónde te encuentras?
• Define tu plan de ciberseguridad ¿Dónde quieres estar?
• Establece tu plan y evoluciónalo mirando al futuro

La unión de estos cuatro pasos con el framework CABACI, proporcionan el marco y la estructura con base en el cual se desarrolla casi todo el contenido del libro.

Así, en los siguientes 7 capítulos se va describiendo el plan de acción siguiendo los cuatro pasos propuestos.

En '2. Paso 1. Entiende tu entorno de amenazas' se hace un resumen de las principales amenazas (actores) y sus motivaciones además de describirse los principales tipos de ataques. En '3. Paso 2. Dónde te encuentras. Evaluate a ti mismo con CABACI.' se explica la idea de los frameworks de ciberseguridad e introduce el framework CABACI.

Los siguientes tres capítulos '4. Paso 2.1. Organización u riesgos', '5. Paso 2.2. Protección' y '6. Paso 2.3 Detección, respuesta y resiliencia' constituyen un largo y estructurado recorrido por los controles y defensas que propone el framework CABACI correspondiendo cada capítulo a un dominio de los tres que lo componen.

'7. Paso 3. Define tu plan de ciberseguridad' habla de la definición del plan partiendo de una situación actual (AS-IS) y marcando la situación futura (TO-BE) y teniendo siempre en cuenta las particularidades de la organización y su 'apetito de riesgo'. '8. Paso 4. Establece tu plan y evoluciónalo' cierra el recorrido por los pasos y nos habla de la documentación y gobierno de la estrategia de ciberseguridad.

El resto de capítulos son un poco complementarios o de aplicación en ámbitos específicos. Así, '9. Ciberseguridad para emprendedores' hace una particularización y simplificación del framework para el caso de emprendedores y en '10. Estrategia de ciberseguridad en cloud' se describen con bastante detalle los fundamentos de cloud computing y su tratamiento de la seguridad, con particularizaciones en AWS, Azure y Google Cloud Platform.

Finaliza el libro con '11. Reglas de oro y guían de controles CABACI' en que los autores nos regalan las seis reglas más importantes a tener en cuenta y luego resumen todo el framework CABACI.

'Ciberseguridad paso a paso' es una visión abarcadora de la ciberseguridad más desde el punto de vista de gestión que tecnológico. Se trata de un libro muy ordenado y estructurado, con pretensión de estar al alcance de cualquiera, aunque me ha parecido que en ocasiones se deslizan términos y conceptos técnicos quizá no tan sencillos y que en cierto sentido además se dan por conocidos y eso, según el nivel del lector, pudiera suponer una barrera.

Para una lectura lineal puede resultar en algunos momentos algo árido, especialmente en los capítulos centrales que recorren con detalle el framework. Sin embargo, por la misma razón, por ese recorrido abarcador, estructurado, ordenado y sistemático, creo que puede ser un gran orientador y un valioso manual de referencia.

Buen recurso.

María Ángeles Caballero Velasco

(Fuente: Ficha de autora en Anaya Multimedia)

María Ángeles Caballero Velasco

María Ángeles Caballero Velasco cuenta con más de 10 años de experiencia en el sector de la Ciberseguridad. Actualmente, lidera la transformación digital del Banco Santander como Head de Cyber en CISO Corporación. Es ingeniera en Informática Técnica de Gestión y licenciada en Administración y Dirección de Empresas por la Universidad Carlos III de Madrid. También ha cursado el máster universitario en Seguridad de las TIC por la UEM y máster en Design Thinking por el MIT.

Posee múltiples certificaciones como CISSP, SSCP, CEH o PMP y tiene numerosas publicaciones en libros, revistas y foros, habiendo publicado ocho libros de ciberseguridad hasta la fecha.

Ha participado en múltiples seminarios, conferencias y cursos, dado que le entusiasma la concienciación y la formación.

Finalmente, su pasión por el comportamiento humano le ha llevado a estar cursando actualmente el Grado de Psicología por la UNIR y a certificarse como coach profesional con la escuela americana IPEC.

Puedes conocer más de la autora visitando su perfil en LinkedIn o siguiéndola en Twitter donde se identifica como @MAngelesCab.

Laura Baus Lerma

(Fuente: Ficha de autora en Tirant Lo Blanch)

Laura Baus Lerma

Laura Baus cuenta con una extensa experiencia en el campo de la ciberseguridad, ha trabajado para algunas de las grandes empresas de telecomunicaciones y banca.

Actualmente lidera el equipo de Ciberdefensa en Vodafone como Cyber Defence Manager.

La mayoría de su carrera la ha dedicado a la estrategia de ciberseguridad como estratega y responsable de ciberseguridad.

Dispone de un máster en Ingeniería de Seguridad de la Información y las Comunicaciones, además de ser licenciada en Negocios Internacionales y Dirección Internacional de Empresas por universidades nacionales e internacionales.

Su perfil mixto es resultado de su creencia en que las empresas no pueden tener éxito sin la digitalización y, al mismo tiempo, la digitalización no puede sobrevivir sin la seguridad. La ciberseguridad debe convertirse en un habilitador del negocio y de la vida digital.

Con un fuerte compromiso por la divulgación del conocimiento, Laura participa proactivamente y colabora en conferencias, entrevistas, charlas y enseñanza.

Puedes conocer más de la autora visitando su perfil en LinkedIn.

Diego Cilleros Serrano

(Fuente: Ficha de autor en Anaya Multimedia)

Diego Cilleros Serrano

Diego Cilleros Serrano es ingeniero superior de Telecomunicaciones por la Universidad Carlos III de Madrid y estudiante de grado de Criminología por la Universidad Internacional de La Rioja.

Su experiencia profesional ha estado siempre ligada al mundo de las redes de datos y de la ciberseguridad.

Trabaja actualmente como gerente senior de ciberseguridad en el área Cyber Risk Services de Deloitte España y es responsable de un equipo cercano a las cien personas dedicado a las arquitecturas de seguridad y a la seguridad cloud.

Posee diferentes certificaciones de ciberseguridad que complementan su experiencia, como Offensive Security Certified Professional (OSCP), Certified SCADA Security Architect (CSSA), CISSP, CCSP, CSX y CISA, y algunas relacionadas con AWS y Azure, entre otras. Ha participado en diferentes seminarios y cursos, y es coautor de diferentes publicaciones sobre ciberseguridad.

Puedes conocer más del autor visitando su perfil en LinkedIn.

Ficha técnica:

TITULO: Ciberseguridad paso a paso: diseña tu estrategia

AUTOR: María Ángeles Caballero Velasco, Laura Baus Lerma y Diego Cilleros Serrano

EDITORIAL: Anaya Multimedia

AÑO: 2023 

ISBN: 978-8441548442

PAGINAS: 600