lunes, 15 de abril de 2024

Una lista de tareas para el futuro de la robótica

La robótica, seguramente como una buena parte de la tecnología, avanza a gran velocidad.


Avances en robótica e inteligencia artificial


Es cierto que a veces confundimos los avances de la robótica como tal, con los de la inteligencia artificial en la que con frecuencia se apoya. 

La robótica es mucho más amplia e incluye elementos como materiales, sensores, algoritmos de control no necesariamente basados en la inteligencia artificial, colaboración, algoritmos de coordinación como los que se necesitan en 'swarm robotics', etc. 

Pero no cabe duda de que la robótica se beneficia, y cada vez más, de los algoritmos que aporta la inteligencia artificial para todo lo que tiene que ver con percepción, con planificaciones complejas, con capacidades cognitivas y así un largo etcétera.

En cualquier caso, en lo relativo a la inteligencia artificial, y en la parte más puramente robótica, no cabe duda de que avanzamos y avanzamos mucho.


La lista de tareas


Pero, a pesar de esos grandes avances, está claro que hay muchas más posibilidades, muchas más problemáticas por revolver, muchos logros por conseguir.

En el libro 'The Heart and the Chip: Our Bright Future with Robots' la actual directora del CSAIL (Science and Artificial Intelligence Laboratory) del MIT, Daniela Rus, propone una lista de nueve temáticas que la robótica debería afrontar, lo que ella denomina la 'to-do list'. 

Estos son los puntos de la lista:


  • Manos más sensible e inteligentes: Aunque el posicionamiento de la mano del robot hasta las cercanías de un objeto a manipular se consigue perfectamente, en el acercamiento final pueden producirse todavía desalineamientos. La autora sugiere el desarrollo de manos que sepan tratar con un cierto grado de incertidumbre, manos que sepan diferenciar entre los materiales de los objetos que agarran y manos capaces de ajustar bien (aunuqe ya hay avances y realizaciones en ese respecto) la fuerza que aplican sobre el objeto.

  • Robots más suaves y seguros: Los robots tradicionales son duros, pesados e incluso peligrosos para los humanos en caso de accidente, lo que hace que con frecuencia en entornos industriales permanezcan claramente separados de los humanos. Aunque ya existen los denominados cobots capaces de colaborar con humanos de forma segura, Rus sugiere que deberíamos avanzar en el desarrollo de robots blando, más seguros y más inteligentes desde un punto de vista físico para evitar eventuales daños. Esto incluiría el avance en el desarrollo de la piel artificial que informe de contactos incluso cuando no hay visión directa.

  • Unos robots menos 'robóticos': En este caso se refiere al propio movimiento de los robots que, en general, es rígido, a veces incluso diríamos que torpe. Un movimiento más natural permitiría una mejor ayuda a los humanos, por ejemplo, a ancianos. También apunta la autora a que un comportamiento más suave, menos brusco, ayudaría en el caso de los vehículos autónomos a una mejor convivencia con conductores o peatones humanos.

  • Métodos mejores para construir robots: La construcción actual de robots es compleja y se precisa personal especializado. La autora apunta a la necesidad de disponer de mecanismos de construcción de robots más simples. Entre otras cosas apuesta por el diseño y construcción simultáneos de los elementos físicos y los de control e inteligencia y el apoyo en herramientas de simulación.

  • Mejores músculos artificiales: Los músculos artificiales son una forma de actuadores que hasta cierto punto emulan el funcionamiento de los músculos de un ser vivo. La autora aboga por el desarrollo de mejores músculos artificiales, en general pequeños y blandos, y capaces de ejercer presión de una forma más continua y suave.

  • Baterías más potentes: Baterías más pequeñas, de vida más larga y con mayores densidades de energía. Baterías también menos pesadas y, eventualmente, incluso blandas.

  • Mejores sensores: A pesar de los formidables avances en percepción, por ejemplo en visión artificial, la autora entiende que estamos aún muy lejos de conseguir algo que se parezca, por ejemplo, a la vista humana. Tambien insiste en su interés en sensores de contacto parecidos a la piel de los seres vivos.

  • Cerebros más rápidos: donde se refiere al hardware y, en concreto los procesadores como los GPU. Entiende que se necesita avanzar en chips más pequeños, de más bajo consumo pero de alta potencia de cálculo y adecuados a las operaciones necesarias, por ejemplo, en machine learning.

  • Poder hablar de forma natural a los robots: Reconoce el formidable avance que suponen modelos como los que respaldan ChatGPT pero entiende que aún hay trabajo por hacer para conseguir una interacción natural y que, en el caso de los robots, tendría mucho que ver con la traducción de palabras en acciones.


Una buena e interesante lista, sin duda.


Conclusiones


Es posible que la lista que propone Daniela Rus este influenciada en parte por el trabajo que realmente se hace en el CSAIL, que ella dirige, pero creo que marca líneas de trabajo muy interesantes y bien fundamentadas y desde luego es una voz a la que vale la pena atender.

Habrá que estar atentos para ver si realmente se avanza en estas líneas de trabajo. 

Ojalá que sí.


viernes, 12 de abril de 2024

Gestión de la ciberseguridad paso a paso con CAballero, BAus y CIlleros.

'Ciberseguridad paso a paso' es, evidentemente, un libro sobre ciberseguridad, pero más que seguir el esquema habitual de describir los tipos de ataques y las soluciones técnicas o procedimentales, se centra en la gestión de la ciberseguridad pensando sobre todo en empresas pequeñas. Por ello los autores, adoptan el enfoque de los 'frameworks de ciberseguridad' pero, en lugar de elegir uno existente, como pudiera ser el del NIST, proponen su propio framework al que denominan CABACI que, 'oficialmente' responde al acrónimo "Cybersecurity Analysis, Building, And Adaptive controls for Improvement" y que, 'casualmente' se corresponde con los apellidos de los autores: CAballero, BAus y CIlleros.

El framework es de naturaleza jerárquica, existiendo una primera división en tres grandes dominios, sobre los que se establecen controles y defensas asociadas, agrupando, además, controles y defensas en niveles básico y avanzado.

Dado que una gran parte del libro se centra en desarrollar y explicar este framework, y a pesar de que sea un poco largo, me parece relevante resumir su estructura, que es como sigue:
  • DOMINIO: ORGANIZACIÓN Y RIESGOS
    • Nivel básico
      • Control 1. Estrategia de negocio y organización.
        • Defensa 1.1. Prioridades en la organización.
        • Defensa 1.2. Organización de ciberseguridad.
        • Defensa 1.3. Normativa de ciberseguridad.
      • Control 2. Diseño tecnológico y gestión de activos.
        • Defensa 2.1. Diseño tecnológico y de ciberseguridad.
        • Defensa 2.2. Gestión de activos tecnológicos e inventario.
      • Control 3. Gestiona tus ciberriesgos.
        • Defensa 3.1. Identifica tus amenazas y riesgos.
        • Defensa 3.2. Gestiona y prioriza tus riesgos.
        • Defensa 3.3. Ciberseguro.
      • Control 4. Seguridad en proveedores.
        • Defensa 4.1. Identifica a tus proveedores tecnológicos.
        • Defensa 4.2. Evaluación continua de la ciberseguridad de tus proveedores.
      • Control C2. Cultura cibersegura.
        • Defensa C2.1. Cultura cibersegura para empleados.
        • Defensa C2.2. Cultura cibersegura para stakeholders.

  • DOMINIO: PROTECCIÓN
    • Nivel básico
      • Control 5. Protege tus redes wifi.
        • Defensa 5.1. Segmentación de la red corporativa.
        • Defensa 5.2. Configuraciones seguras en redes inalámbricas.
        • Defensa 5.3. Redes de invitados y políticas de uso.
      • Control 6. Protege tus dispositivos y sistemas.
        • Defensa 6.1. Política de uso responsable de dispositivos o sistemas.
        • Defensa 6.2. Control de inventariado y gestión de dispositivos.
        • Defensa 6.3. Control de antimalware.
        • Defensa 6.4. Implementación de firewall local.
        • Defensa 6.5. Análisis de vulnerabilidades.
        • Defensa 6.6. Parcheo de vulnerabilidades.
        • Defensa 6.7. Cifrado y firma de correos electrónicos.
      • Control 7. Protege tu correo electrónico.
        • Defensa 7.1. Antispam y antiphishing.
        • Defensa 7.2. Ejercicios de phishing.
        • Defensa 7.3. Protección frente al malware.
        • Defensa 7.4. Medidas antispoofing.
        • Defensa 7.5. Cifrado y firma de correos electrónicos.
      • Control 8. Protege tus datos.
        • Defensa 8.1. Protección de la información almacenada.
        • Defensa 8.2. Prevención ante la pérdida o fuga de información.
        • Defensa 8.3. Gestión de claves de cifrado.
        • Defensa 8.4. Segregación de información sensible.
        • Defensa 8.5. Anonimización y pseudonimización de datos.
        • Defensa 8.6. Cumplimiento de las regulaciones de privacidad.
      • Control 9. Protege tu página web.
        • Defensa 9.1. Uso de firewalls de aplicaciones web (WAF).
        • Defensa 9.2. Protección DDoS de las aplicaciones.
        • Defensa 9.3. Uso de protocolos seguros en aplicaciones web.
        • Defensa 9.4. Protección frente a bots.
        • Defensa 9.5. Seguridad en APIs.
      • Control 10. Protege las credenciales de acceso.
        • Defensa 10.1. Gestión del ciclo de vida de los usuarios.
        • Defensa 10.2. Gestión de contraseñas robustas y rotación.
        • Defensa 10.3. Uso de autenticación multifactor (MFA).
        • Defensa 10.4. Gestión de permisos y privilegios.
      • Control 11. Protege tus redes sociales.
        • Defensa 11.1. Concienciación en protección de redes sociales.
        • Defensa 11.2. Uso de credenciales robustas y autenticación de dos factores en redes sociales.
        • Defensa 11.3. Configuraciones de seguridad y privacidad.
        • Defensa 11.4. Seguimiento selectivo en redes sociales.
        • Defensa 11.5. Prevención de phishing y fraude en redes sociales.
        • Defensa 11.6. Gestión de la reputación en línea en redes sociales.

    • Nivel avanzado
      • Control 15. Protección avanzada de redes.
        • Defensa 15.1. Arquitectura segura.
        • Defensa 15.2. Segmentación de redes.
        • Defensa 15.3. Uso de firewalls de red.
        • Defensa 15.4. Protección frente a intrusiones.
        • Defensa 15.5. Protección de las conexiones remotas.
        • Defensa 15.6. Uso de tecnologías avanzadas de protección de la red.
      • Control 16. Cloud cibersegura.
        • Defensa 16.1. Política de ciberseguridad cloud.
        • Defensa 16.2. Framework de controles cloud.
        • Defensa 16.3. Protección de los datos y repositorios cloud.
        • Defensa 16.4. Protección de entornos SaaS.
        • Defensa 16.5. Monitorización efectiva.
      • Control 17. Protección avanzada de dispositivos y sistemas.
        • Defensa 17.1. Implementación de IDS/IPS local.
        • Defensa 17.2. Guías de bastionado.
        • Defensa 17.3. Gestión de privilegios.
        • Defensa 17.4. Uso de sandbox.
      • Control 18. Desarrolla de manera segura.
        • Defensa 18.1. Política de desarrollo seguro de software (S-SDLC) e implementación en terceros.
        • Defensa 18.2. Guías de desarrollo seguro.
        • Defensa 18.3. Auditoría de código y pruebas de intrusión.
        • Defensa 18.4. Gestión segura de las sesiones de usuario.
        • Defensa 18.5. Verificación de dependencias y componentes de terceros.
        • Defensa 18.6. Política de seguridad de contenido (CSP).
      • Control 19. Control de accesos avanzado.
        • Defensa 19.1. Uso de sistemas de gestión de identidad y accesos (Identity and Access Management Systems, IAM).
        • Defensa 19.2. Segregación de funciones.
        • Defensa 19.3. Gestión de cuentas privilegiadas.
        • Defensa 19.4. Uso de Single Sign-On (SSO).
        • Defensa 19.5. Uso de la federación de identidades.
        • Defensa 19.6. Uso de tecnologías CIAM (Customer Identity and Access Management).
      • Control C2. Cultura cibersegura.
        • Defensa C2.3. Cultura cibersegura sobre medidas de protección.

  • DOMINIO: DETECCIÓN, RESPUESTA Y RESILIENCIA
    • Nivel básico
      • Control 12. Responde a los ciberincidentes.
        • Defensa 12.1. Plan de respuesta a incidentes actualizado.
        • Defensa 12.2. Roles y responsabilidades en la respuesta.
        • Defensa 12.3. Detección y evaluación del incidente.
        • Defensa 12.4. Gestión y resolución del incidente.
        • Defensa 12.5. Notificación del incidente.
      • Control 13. Copias de seguridad.
        • Defensa 13.1. Copias de seguridad.
      • Control 14. Feeds de información y brechas de seguridad.
      • Control 14.1. Feeds de información y brechas de seguridad.

    • Nivel avanzado
      • Control 20. Monitorización continua de ciberseguridad.
        • Defensa 20.1. Define los activos tecnológicos a monitorizar.
        • Defensa 20.2. Registra tus logs.
        • Defensa 20.3. Establece la monitorización de tu red.
        • Defensa 20.4. Monitorización continua de ciberseguridad.
        • Defensa 20.5. Gestión de eventos de ciberseguridad (SIEM).
        • Defensa 20.6. Security Operations Center.
      • Control 21. Respuesta avanzada.
        • Defensa 21.1. Capacitación de la respuesta.
        • Defensa 21.2. Tecnología en la respuesta.
        • Defensa 21.3. Ejecución de la respuesta a incidentes.
      • Control 22. Gestión continua de vulnerabilidades.
        • Defensa 22.1. Ciclo de vida de la gestión de vulnerabilidades.
      • Control 23. Resiliencia.
      • Control 23.1. Recuperación de incidentes.
      • Control C2. Cultura cibersegura.
        • Defensa C2.4. Ciberejercicios o simulacros de ataque.

Comienza el libro con un primer capítulo '1. Ciberseguridad y cómo construir tu estrategia' de naturaleza introductoria y en el que, tras una breve incursion sobre las tecnologías digitales, se plantea el problema del cibercrimen, explica qué es un hacker, aporta conceptos básicos de ciberseguridad y luego ya se centra en el planteamiento de una estrategia de ciberseguridad. Para la definición y gestión de la estrategia de ciberseguridad, los autores proponen un esquema con cuatro pasos, a saber:
  • Entiende tu entorno de amenazas
  • Evaluáte a ti mismo ¿Dónde te encuentras?
  • Define tu plan de ciberseguridad ¿Dónde quieres estar?
  • Establece tu plan y evoluciónalo mirando al futuro
La unión de estos cuatro pasos con el framework CABACI, proporcionan el marco y la estructura con base en el cual se desarrolla casi todo el contenido del libro.

Así, en los siguientes 7 capítulos se va describiendo el plan de acción siguiendo los cuatro pasos propuestos.

En '2. Paso 1. Entiende tu entorno de amenazas' se hace un resumen de las principales amenazas (actores) y sus motivaciones además de describirse los principales tipos de ataques. En '3. Paso 2. Dónde te encuentras. Evaluate a ti mismo con CABACI.' se explica la idea de los frameworks de ciberseguridad e introduce el framework CABACI.

Los siguientes tres capítulos '4. Paso 2.1. Organización u riesgos', '5. Paso 2.2. Protección' y '6. Paso 2.3 Detección, respuesta y resiliencia' constituyen un largo y estructurado recorrido por los controles y defensas que propone el framework CABACI correspondiendo cada capítulo a un dominio de los tres que lo componen.

'7. Paso 3. Define tu plan de ciberseguridad' habla de la definición del plan partiendo de una situación actual (AS-IS) y marcando la situación futura (TO-BE) y teniendo siempre en cuenta las particularidades de la organización y su 'apetito de riesgo'. '8. Paso 4. Establece tu plan y evoluciónalo' cierra el recorrido por los pasos y nos habla de la documentación y gobierno de la estrategia de ciberseguridad.

El resto de capítulos son un poco complementarios o de aplicación en ámbitos específicos. Así, '9. Ciberseguridad para emprendedores' hace una particularización y simplificación del framework para el caso de emprendedores y en '10. Estrategia de ciberseguridad en cloud' se describen con bastante detalle los fundamentos de cloud computing y su tratamiento de la seguridad, con particularizaciones en AWS, Azure y Google Cloud Platform.

Finaliza el libro con '11. Reglas de oro y guían de controles CABACI' en que los autores nos regalan las seis reglas más importantes a tener en cuenta y luego resumen todo el framework CABACI.

'Ciberseguridad paso a paso' es una visión abarcadora de la ciberseguridad más desde el punto de vista de gestión que tecnológico. Se trata de un libro muy ordenado y estructurado, con pretensión de estar al alcance de cualquiera, aunque me ha parecido que en ocasiones se deslizan términos y conceptos técnicos quizá no tan sencillos y que en cierto sentido además se dan por conocidos y eso, según el nivel del lector, pudiera suponer una barrera.

Para una lectura lineal puede resultar en algunos momentos algo árido, especialmente en los capítulos centrales que recorren con detalle el framework. Sin embargo, por la misma razón, por ese recorrido abarcador, estructurado, ordenado y sistemático, creo que puede ser un gran orientador y un valioso manual de referencia.

Buen recurso.

María Ángeles Caballero Velasco

(Fuente: Ficha de autora en Anaya Multimedia)

María Ángeles Caballero Velasco
María Ángeles Caballero Velasco cuenta con más de 10 años de experiencia en el sector de la Ciberseguridad. Actualmente, lidera la transformación digital del Banco Santander como Head de Cyber en CISO Corporación. Es ingeniera en Informática Técnica de Gestión y licenciada en Administración y Dirección de Empresas por la Universidad Carlos III de Madrid. También ha cursado el máster universitario en Seguridad de las TIC por la UEM y máster en Design Thinking por el MIT.

Posee múltiples certificaciones como CISSP, SSCP, CEH o PMP y tiene numerosas publicaciones en libros, revistas y foros, habiendo publicado ocho libros de ciberseguridad hasta la fecha.

Ha participado en múltiples seminarios, conferencias y cursos, dado que le entusiasma la concienciación y la formación.

Finalmente, su pasión por el comportamiento humano le ha llevado a estar cursando actualmente el Grado de Psicología por la UNIR y a certificarse como coach profesional con la escuela americana IPEC.

Puedes conocer más de la autora visitando su perfil en LinkedIn o siguiéndola en Twitter donde se identifica como @MAngelesCab.

Laura Baus Lerma

(Fuente: Ficha de autora en Tirant Lo Blanch)

Laura Baus Lerma
Laura Baus cuenta con una extensa experiencia en el campo de la ciberseguridad, ha trabajado para algunas de las grandes empresas de telecomunicaciones y banca.

Actualmente lidera el equipo de Ciberdefensa en Vodafone como Cyber Defence Manager.

La mayoría de su carrera la ha dedicado a la estrategia de ciberseguridad como estratega y responsable de ciberseguridad.

Dispone de un máster en Ingeniería de Seguridad de la Información y las Comunicaciones, además de ser licenciada en Negocios Internacionales y Dirección Internacional de Empresas por universidades nacionales e internacionales.

Su perfil mixto es resultado de su creencia en que las empresas no pueden tener éxito sin la digitalización y, al mismo tiempo, la digitalización no puede sobrevivir sin la seguridad. La ciberseguridad debe convertirse en un habilitador del negocio y de la vida digital.

Con un fuerte compromiso por la divulgación del conocimiento, Laura participa proactivamente y colabora en conferencias, entrevistas, charlas y enseñanza.

Puedes conocer más de la autora visitando su perfil en LinkedIn.

Diego Cilleros Serrano

(Fuente: Ficha de autor en Anaya Multimedia)

Diego Cilleros Serrano
Diego Cilleros Serrano es ingeniero superior de Telecomunicaciones por la Universidad Carlos III de Madrid y estudiante de grado de Criminología por la Universidad Internacional de La Rioja.

Su experiencia profesional ha estado siempre ligada al mundo de las redes de datos y de la ciberseguridad.

Trabaja actualmente como gerente senior de ciberseguridad en el área Cyber Risk Services de Deloitte España y es responsable de un equipo cercano a las cien personas dedicado a las arquitecturas de seguridad y a la seguridad cloud.

Posee diferentes certificaciones de ciberseguridad que complementan su experiencia, como Offensive Security Certified Professional (OSCP), Certified SCADA Security Architect (CSSA), CISSP, CCSP, CSX y CISA, y algunas relacionadas con AWS y Azure, entre otras. Ha participado en diferentes seminarios y cursos, y es coautor de diferentes publicaciones sobre ciberseguridad.

Puedes conocer más del autor visitando su perfil en LinkedIn.

Ficha técnica:

miércoles, 10 de abril de 2024

El 'mind reading' y su importancia en roboética

En un reciente post, al explicar el giro relacional en roboética propuesto por David Gunkel. en materia de roboética, mencionaba, brevemente, el término 'mind reading' y sugería que lo trataría en un siguiente post. Bueno, ha llegado el momento de hacerlo.

Si menciono el término 'mind reading', (literalmente 'lectura de la mente') a aquellas personas que no conozcan el concepto, les puede sugerir algo misterioso, algo así como en una especie de telepatía o, ya que lo menciono en relación con la roboética, algo temible, como si las máquinas fuesen capaces de leer nuestra mente, nuestros más íntimos pensamientos y sentimientos. Pero no, no se trata de eso exactamente, aunque tenga alguna conexión y aunque ¡a saber dónde podemos llegar!.


El mind reading en humanos


En realidad, la idea del mind reading surge en el contexto de la psicología y hace referencia, no a una estricta lectura de la mente, sino a la capacidad que tenemos los seres humanos (supongo que también al menos hasta cierto punto otros seres vivos) de interpretar lo que, dicho familiarmente, 'se le está pasando por la cabeza' a nuestro interlocutor. Bueno, por la cabeza y por el corazón usado el corazon como metáfora de los sentimientos y emociones.

El mind reading es la capacidad para intuir los pensamientos y emociones de otros, con base en lo que expresa mediante lenguaje verbal, las expresiones faciales y, en general, todo tipo de lenguaje no verbal incluyendo, claro, elementos involuntarios como el 'ponernos colorados'.

Aunque, como todo mecanismo natural no es perfecto, nuestras capacidades humanas de 'mind reading' son eficaces y suficientes para entender a los demás y así engrasar las relaciones interpersonales y sociales.


Mind reading en relación robots personas


Pero ¿existe 'mind reading' en las relaciones robots-personas o, en general en la relación de las máquinas y las personas?

Bueno, creo que podemos decir que existen al menos formas más o menos rudimentarias de 'mind reading'.

Si lo pensamos en el sentido de que un robot haga 'mind reading' a una persona, es decir, entienda sus intenciones y emociones, podemos decir que, aunque de una manera imperfecta, existen mecanismos para ello.

De todos es conocido el formidable avance de los últimos años en materia de procesamiento de voz y de lenguaje natural, de forma que, aunque con alguna reserva, podemos decir que los robots tienen capacidad para 'entender' el lenguaje verbal. Es necesario precisar aquí que lo de 'entender' va con comillas, con muchas comillas en realidad, porque los algoritmos actuales de entendimiento de lenguaje natural, en general no comprenden lo que el humano dice, no asignan un verdadero contenido semántico a las palabras. Se trata de un tema con muchos matices y que, por ejemplo, nos llevaría al problema del 'symbol grounding', pero voy a evitar en este post complicarme con esos temas y asumir que, a efectos prácticos, y aunque de manera imperfecta, los robots pueden entender el lenguaje verbal.

Ya hemos tratado también con frecuencia cómo los robots, aplicando, por ejemplo, las técnicas de la computación afectiva ('afective computing') pueden también deducir, aunque de manera aún limitada,  emociones. 

Y combinando estímulos verbales y no verbales, los robots puede, hasta cierto punto, estimar las intenciones de los humanos.

Es decir, los robots (pienso, por supuesto, en robots cognitivos avanzados) tienen unas razonables capacidades para hacer 'mind reading' a los humanos.

¿Y en el otro sentido? 

¿Podemos los humanos entender las intenciones, emociones y estados internos de los robots?

Bueno, hay mucho que decir sobre en qué consisten esos estados internos, esas presuntas emociones e intenciones de los robots.

Pero antes de entrar en ello, decir que en el propio diseño de los robots sociales o incluso los robots software de naturaleza conversacional, se busca que tanto el lenguaje verbal, expresado mediante voz, como los gestos o expresiones faciales del robot, transmitan, precisamente, esas presuntas emociones o intenciones del robot.


¿Existe en los robots una  mente que leer?


Quizá haya que explicar de qué estados internos, de qué emociones e intenciones estamos hablando si nos referimos a un robot o, dicho de otra forma ¿Qué 'lee' un humano de la mente de un robot?

Hay que ser claro: los robots, al menos los robots actuales, no tienen emociones. Punto. En ese sentido, no habría nada que leer... Bueno, relativamente. Es seguida vamos a ello.

¿E intenciones? Bueno, si por intenciones entendemos una forma de libre albedrío, podría ser tan radical como en el caso de las emociones y decir que no tienen libre albedrío. Y punto, de nuevo. 

Sin embargo, sí que tienen claramente intenciones en el sentido de acciones que planifican realizar a continuación como consecuencia de sus objetivos y del estado del entorno en que se mueven (formando las personas parte de ese entorno). Y dado que son acciones 'lógicas', y siguiendo además una lógica similar a la humana, y que además los propios robots 'señalizan' de alguna forma esa intención, sí podríamos considerar que los humanos podemos 'leer', al menos hasta cierto punto, las intenciones de los robots.

Pero, y volviendo a las emociones, los robots sociales, aunque no sientan emociones, sí que simulan en su comportamiento externo, esas emociones. Sí tienen, o pueden tener, estados computacionales internos que les sitúan en una especie de estado emocional y que condiciona su comportamiento y cómo se expresan en su relación con los humanos a nivel de lenguaje verbal, gestual y, en general, las capacidades de lenguaje no verbal que el robot pueda exhibir.

Y los humanos podemos 'leer' esos estados emocionales porque, además, los robots sociales están expresamente diseñados para facilitar esa lectura de sus estados por parte de los humanos.


Mind reading y roboética


Y esto conecta con la roboética porque nos encontramos ante unos entes, los robots sociales o cognitivos avanzados, que no sólo son capaces de, hasta cierto punto, 'leer nuestra mente' (en el sentido psicológico del 'mind reading'), sino que, además, simulan un estado interno que incluye emociones y, por supuesto intenciones y que los humanos podemos, a su vez,  'leer' e interpretar.

Y esto conecta con muchos elementos éticos. 

Si, como defiende Gunkel, lo que puede definir el estatus moral de un robot es, no su propia naturaleza (enfoque de las propiedades), sino las relaciones que mantenemos con ellos, en cierto sentido pierde importancia el que el robot no tenga verdaderas emociones o libre albedrío en la medida que en su relación con los humanos sea capaz de leer suficientemente bien nuestra mente y simular, suficientemente bien su propia mente y simularla de una forma que los humanos podamos leer.

Y todo esto afecta, pues, a su estatus moral o a problemáticas éticas que incluyen la eventual amistad de personas con robots, e incluso las relaciones sentimentales con robots.


Conclusiones


Hemos visto que el 'mind reading' es una capacidad de naturaleza esencialmente psicológica que tenemos los seres humanos y que facilita y moldea nuestras relaciones. 

Y hemos visto que, aunque con limitaciones e imperfecciones (que seguramente se irán borrando en el futuro a medida que la tecnología avance), los robots cognitivos y sociales avanzados pueden, a su vez simular estados anímicos internos, intenciones y emociones y hacerlo de manera que los humanos podamos 'leer' esos estados, esas intenciones y emociones.

Dejando aparte el enorme interés científico y técnico de este hecho, también es muy relevante las herramientas que añade y también las problemáticas que abre desde un punto de vista ético


lunes, 8 de abril de 2024

Consejos para llevar el Design Thinking a la empresa

Una de las disciplinas que domina el panorama de la innovación desde hace años, pero a la vez, quizá, una de las disciplinas más intangibles desde un punto de vista metodológico, sea el Design Thinking.


Sobre la percepción de intangibilidad del Design Thinking


Digo que se trata de una disciplina algo intangible porque, al menos en mis lecturas hasta la fecha sobre la materia, me he encontrado más una filosofía de trabajo, un enfoque para la innovación o para la definición de productos y servicios, que una serie de pasos estructurados, o unas técnicas concretas o al menos unas buenas prácticas bien definidas, una sistematización de alguna manera.

No digo que no existan, sino que hasta la fecha yo no me las he encontrado. Por eso prefiero hablar de percepción de intangibilidad que de una verdadera intangibilidad. En cualquier caso, me encuentro en búsqueda activa de esa tangibilización.

Y en esa línea, de hecho, me encuentro finalizando la lectura del libro 'Change by Design: How Design Thinking Transforms Organizations and Inspires Innovation' de Tim Brown, presidente ejecutivo de IDEO y uno de los creadores de esta disciplina, en la expectativa de encontrar, precisamente, de ese enfoque algo más metodológico, más concreto, más accionable.

Para ser sincero no lo he encontrado: se trata de un libro que busca más, creo, transmitir de nuevo una filosofía de trabajo, casi de vida, y una inspiración, que un verdadero 'know how'.


Consejos para la adopción de Design Thinking en la empresa


Sin embargo, en uno de los capítulos finales, Tim Brown proporciona a una especie de consejos o principios para conseguir con éxito el uso del Design Thinking en la empresa.

Aunque no satisface ni de lejos mi búsqueda de tangibilidad, me han parecido interesantes en el sentido de resumir parte de la filosofía que mencionaba, y dar alguna idea, aunque sea de bastante alto nivel, sobre cómo llevar a cabo en la empresa la implantación de esta forma de trabajar. Son los siguientes:


  • Empieza por el principio: Ese principio, para Tim Brown es la capacidad de crear nuevas opciones, la divergencia tan mencionada en tratados de creatividad e innovación. Brown pide que se incluya a diseñadores, o mejor, pensadores de diseño ('design thinkers') en comités corporativos y que participen en las decisiones de marketing estratégico y en las decisiones iniciales de I+D.

  • Adopta un enfoque centrado en las personas: Se trata de equilibrar las perspectivas de usuarios, negocio y tecnología, pero siempre con foco en las personas, su comportamiento, su contexto y cómo éste afecta a su reacción ante productos y servicios y tomando en cuenta no sólo los aspectos funcionales sino también los emocionales de esos productos y servicios.

  • Falla pronto, falla a menudo: Se trata de favorecer la experimentación, el prototipado y la prueba y error como forma temprana de aprendizaje con poca inversión.

  • Busca ayuda profesional: Se trata de buscar ayuda fuera de la propia organización, por ejemplo, co-creando con los propios clientes o socios, o en otras ocasiones subcontratando expertos externos.

  • Comparte la inspiración: Se busca estimular a la red interna de contactos, de crear inspiración y favorecer la aparición de nuevas ideas.

  • Mezcla proyectos grandes y pequeños: Buscando un porfolio de innovación que reúna proyectos grandes y pequeños, innovación incremental y disruptiva.

  • Ajusta el presupuesto al ritmo de la innovación: Se trata de ir adaptando las fuentes de financiación y el propio presupuesto al ritmo de la innovación, buscando que los algo rígidos ciclos presupuestarios tradicionales, no sean la fuente de paralización de buenas iniciativas.

  • Busca el talento de todas las formas posibles: Se propone buscar el talento y los pensadores de diseño en la propia organización y, una vez hecho esto, recurrir si es necesario al talento externo mediante contratación, por ejemplo, de graduados universitarios.

  • Diseña para el ciclo: La duración de un proyecto de innovación, su ciclo completo, puede ser largo. Si las personas entran y salen del proyecto durante el ciclo del mismo, se desaprovechan conocimientos y se produce frustración, por eso se propone que, al menos el equipo nuclear, se mantenga durante todo el ciclo de proyecto


Conclusiones


La filosofía del Desing Thinking es inspiradora, y su propuesta interesante y creo que útil.

A falta, eso sí, de mayor tangibilización, me quedaré, de momento, con algunos de estos consejos para las empresas.


viernes, 5 de abril de 2024

El giro relacional de David Gunkel en roboética (II): la propuesta relacional

En el post anterior, titulado 'El giro relacional de David Gunkel en roboética (I). El enfoque de propiedades' hablamos del problema del estatus moral de los robots.

Recordando el enfoque de propiedades


Y, basándonos en el capítulo 'The relational turn. Thinking robots otherwise' firmado por David Gunkel e incluido en el libro  titulado 'Social robotics and the good life' editado por Janina Lo y Wulf Loh, repasamos en qué consistía el enfoque de propiedades como forma de derivar el estatus moral de un ente, en este caso los robots.

De forma muy simplificada, decir que el enfoque de propiedades intenta deducir el estatus moral de una entidad (en este caso un robot) a partir de características como la 'sintiencia' o la 'consciencia' que le otorgan, caso de existir, ese estatus moral.

El problema de ese enfoque es, en esencia, que se basa en estados internos de la entidad que no nos es dado conocer. Esto conecta con el denominado problema del 'mind reading' (la capacidad para atribuir estados mentales como sentimientos, objetivos, intenciones o deseos a una entidad externa, sea un ser humano o, en este caso, un robot).

Aparco para otro momento la eventual discusión sobre si, incluso, en el caso de un robot existen o pudieran existir esos estados internos del tipo de sentimientos o intenciones, algo que, aunque muy interesante, creo que, en cierto modo, el giro relacional hace mucho menos relevante.


La esencia del giro relacional

Dicho de forma muy sencilla, el giro relacional prescinde de las características de la entidad como fuente del estatus moral y soslaya la problemática del 'mind reading', para fijarse en aspectos externos y sociales.

En palabras de David Gunkel, se trata de:


an alternative model [] which shifts the emphasis from internal properties of the individual entity to extrinsic social circumstances and relationships. 


Es decir, nos fijamos en las relaciones que mantenemos con la entidad (en este caso, las relaciones de los humanos con los robots) y aspectos sociales asociados.


Las tres características del giro relacional

Gunkel identifica tres características importantes de ese giro relacional que serían:


  • Relacional: El estatus moral se decide no a partir de propiedades internas subjetivas sino de relaciones sociales extrínsecas objetivamente observables o, si se prefiere, el estatus moral depende de la relación que, en este caso los robots, establecen con nosotros.

  • Fenomenológico: Se trata de un enfoque radicalmente empírico

  • Diverso: El abandonar el enfoque de propiedades, muy propio del pensamiento occidental, conecta mejor con otros planteamientos morales en diferentes culturas y momentos históricos.

Como opinión meramente personal, diría que, aunque el enfoque de propiedades parece que conecta mejor con nuestra forma de pensar y razonar (quizá precisamente por ser occidentales) el giro relacional que, en el fondo, con otros nombres pero parecidos planteamientos se puede encontrar en otras obras y autores sobre roboética o ética de máquinas y algoritmos, parece una solución práctica, realista y posibilista que rompe un cierto bloqueo analítico a que lleva el enfoque de propiedades.


Críticas y retos

Pero este enfoque relacional, no está exento de problemáticas y críticas. Siguiendo de nuevo la obra de Gunkel, nos encontramos con:


  • Relativismo: Al tratarse de un enfoque no deductivo, sino empírico y no dependiente de unas características claras, el enfoque relacional corre el riesgo de conducir al relativismo moral, un relativismo en que se asigna o no ese estatus moral no de forma universal sino dependiente de circunstancias.

  • Deshumanización: según algunos pensadores, el enfoque relacional podría conducir a perder de vista características valiosas de las relaciones humanas e, incluso, 'cosificar' a las personas.

  • Contradicción: Hay autores que piensan que, pese a lo que pueda parecer, el enfoque relacional es plenamente antropocéntrico y, en el fondo, también dependiente de las propiedades

En la obra citada, Gunkel analiza y contraargumenta algunas de las objeciones, pero no voy a entrar aquí en ese detalle.
 

Conclusiones

Gunkel nos recuerda que el enfoque de propiedades no es realmente erróneo pero sí que presenta limitaciones que pueden ser superadas en su mayoría por el este giro relacional.

Está claro que la problemática de asignación de estatus moral a los robots es compleja y no hay unidad de criterios, como ocurre, por otro lado, en tantas y tantas problemáticas filosóficas en general y de la roboética en particular. Paradójicamente, en parte esto es lo que convierte a esta disciplina en intelectualmente tan apasionante.

Seguiremos pues hablando con cierta frecuencia de roboética...

lunes, 1 de abril de 2024

El giro relacional de David Gunkel en roboética (I). El enfoque de propiedades

Uno de los debates filosóficos más apasionantes, y a la vez complejos, no de entender sino de decidir, dentro del campo de la roboética, es la asignación o no de un estatus moral a los robots. 
 

El planteamiento del problema


Cuando hablamos de estatus moral lo podemos ver desde una doble perspectiva: la agencia moral, es decir, si los robots pueden llegar a ser responsables desde un punto de vista moral de sus acciones, y la paciencia moral, es decir, si los robots son acreedores de alguna forma de respeto o consideración moral por nuestra parte e, incluso, si pueden tener derechos.

Estrictamente hablando, el planteamiento no es diferente de otras entidades. Lo que ocurre es que, en el caso de que la entidad sea un ser humano, le asignamos ese estatus moral de una forma casi axiomática, como algo que damos por supuesto. Y en el caso de los animales, aunque cabe más el debate, en la actualidad se le tiende a asignar ese estatus moral e incluso, progresivamente, crece la legislación que los protege.

Sin embargo, en el caso de los robots la cosa no está clara en absoluto sino que, cierto que en ámbitos especializados, existe un activo debate al respecto. Pero ese debate que, como digo, actualmente se concentra en círculos muy de nicho del campo de la robótica y, sobre todo, de la ética , pudiera extenderse y pudiera ser más necesaria su resolución en la medida en que los robots puedan avanzar tanto en sus capacidades cognitivas como, quizá, en su aspecto humanoide y también en la medida en que, eventualmente, pueda generalizarse su uso.


El giro relacional de David Gunkel


Uno de los más importantes pensadores en este campo es David Gunkel, profesor de la Northern Illinois University y autor de varios libros, entre los que destacan 'Robot rights' y 'Person, thing, robot'.

Este autor propone lo que denomina un giro relacional ('relational turn') como forma de superar una cierta dicotomía entre personas y cosas. 

De forma resumida, su planteamiento se puede encontrar en el capítulo 'The relational turn. Thinking robots otherwise' incluido en el libro coral titulado 'Social robotics and the good life' y editado por por Janina Lo y Wulf Loh.

Arguye Gunkel que, tradicionalmente, aquellas entidades que eran consideradas personas tenían estatus moral y derechos mientras que las que eran consideradas cosas no disponían de ese estatus moral. Argumenta además que ya en el pasado han existido algunas situaciones intermedias como la de los esclavos en la antigua Roma o actualmente los animales. Y piensa que los robots podrían ser otra de esas entidades intermedias, a medio camino, de alguna manera, entre personas y cosas.

Antes de entrar en su propio planteamiento, Gunkel resumen el denominado enfoque de propiedades ('properties approach') que es lo que quisiera resumir en este post, para revisar, en otro artículo próximo, la propuesta de Gunkel, su giro relacional.


El enfoque de propiedades


En el enfoque de propiedades, el que una entidad deba disponer o no de estatus moral depende de que exhiba o no una o varias propiedades que, de alguna forma, le califiquen para ese estatus. Podría expresarse como: si tiene las propiedades A, B y C, debe gozar de estatus moral y si no las tiene, no. Ese enfoque de propiedades se puede esquematizar, y así lo hace Gunkel, como una suerte de silogismo de la siguiente forma


  • Tener la propiedad P es suficiente para tener a el estatus moral M
  • La entidad E tiene la propiedad P
  • La entidad E tiene el estatus moral M


Vuelvo a insistir en que este planteamiento es válido para el análisis del estatus moral de cualquier entidad, incluido el ser humano. Lo que ocurre que encuentra especial interés, y también dificultad, cuando lo trasladamos a robots.

Algunas de las propiedades que pudieran actuar como calificadoras para el estatus moral, y así aparecen en las obras sobre roboética, podrían ser la denominada 'sintiencia' (capacidad para sufrir) o la consciencia (fácil de entender pero muy difícil de definir).


Los problemas del enfoque de propiedades


Sin embargo, y aunque el enfoque de las propiedades parece lógico y fácil de entender (e incluso de compartir) para Gunkel adolece de importantes limitaciones que él condensa en tres y que, de forma muy resumida, son las siguientes:


  • Determinación: Cómo establecer concretamente qué propiedad o conjunto de propiedades son necesarias y suficientes para que 'algo' tenga estatus moral. En efecto, no existe consenso al respecto.

  • Definición: Supuesto que identificamos esa propiedad o propiedades, la dificultad para definirlas de una forma exacta. Ya lo mencionamos a propósito de la consciencia, pero incluso la propia 'sintiencia' u otras propiedades similares no son sencillas de delimitar de manera rigurosa.

  • Detección: Cómo acceder o percibir esa propiedad teniendo en cuenta que las que se proponen como posibles propiedades (como la 'sintiencia' y 'consciencia' ya mencionadas) se suelen corresponder con estados mentales internos de la entidad y, por tanto, no directamente accesibles desde el exterior.


Estas carencias limitan la capacidad real del enfoque de propiedades como orientación para asignar o no estatus moral a una entidad, en este caso, un robot.


Conclusiones


En un próximo post, veremos en qué consiste el giro relacional propuesto por Gunkel pero, de momento, hemos revisado 'de qué va' el problema de la asignación de estatus moral a una entidad, especialmente un robot, en qué consiste el planteamiento del enfoque de propiedades y algunas de sus limitaciones.

En el siguiente post, la propuesta de Gunkel.


miércoles, 27 de marzo de 2024

Cuatro dimensiones de la confianza de los clientes para tiempos de disrupción

Desde hace ya muchas décadas, desde que se supero la escasez de oferta y comenzó una verdadera competencia, un elemento fundamental en la lucha competitiva es la satisfacción de clientes, entendida como resultado, y por ende, la orientación a cliente o 'customer-centricity' entendidas como actitud y estrategia de las empresas.

En su libro  'The transformation myth', Gerald C. Kane, Rich Nanda, Anh Nguyen Phillips y Jonathan R. Copulsky, revisan los aspectos fundamentales de esta relación.


Lealtad y hábito


Y un toque de atención interesante que hacen, con base en los trabajos de James Clear y Charles Duhigg, es poner en relación la lealtad de los clientes con sus hábitos. Primer nos indican lo que significa un hábito en este entorno


Habit means that people are seeking to derive the greatest value for the least amount of effort.


y luego nos hacen ver que, pese a la cierta entronización que se hace de las actividades de comercialización, atención y retención de clientes, la lealtad de éstos hacia la marca, con frecuencia depende del simple y mero hábito (quizá de ahí provenga, en parte, lo barato que es mantener a un cliente existente frente a captar a uno nuevo). Así, nos dicen


There are times when customers engage and stick with their companies or brands, not out of loyalty but out of habit.

 

Vale que no es una completa generalización, una afirmación de que no exista la verdadera lealtad a la marca sino sólo los hábitos. Vale que nos dice que sólo es en ocasiones, pero me parece relevante esa llamada de atención.


Las cuatro dimensiones de la confianza de los clientes


Sin embargo, según los autores, las cosas cambian cuando hablamos de disrupción, cuando el mercado, la tecnología y los propios clientes se encuentran sometidos a cambios profundos y a incertidumbre.

Para estas situaciones, seguramente cada vez más frecuentes, la construcción de la confianza con los clientes es capital y, en ese ámbito, los autores identifican cuatro dimensiones en las que es preciso trabajar y destacar. Son las siguientes: 


  • Humanidad: que significa preocuparse por la experiencia de otros (aquellos con los que se relaciona la organización, en este caso los cliente) y que incluiría elementos como la seguridad, el trato respetuoso y la atención al bien mayor equilibrando los beneficios con el bienestar individual, interés social y medioambiental.

  • Transparencia: grado en que la organización comparte abiertamente información, motivos y opciones en un lenguaje llano

  • Capacidad: Grado en que la organización dispone de los medios para satisfacer las expectativas de los clientes.

  • Fiabilidad: Grado en que la organización entrega sus productos o servicios de una manera confiable, incluyendo elementos como la calidad, la seguridad y la confianza que en ellos se pueda poner.


Creo que no es difícil concordar en que esas dimensiones son importantes. Las dos últimas, capacidad y fiabilidad son casi evidentes, casi una tautología: mal va a tener un cliente confianza en ti si no tienes la capacidad para entregar los productos y servicios prometidos y hacerlo con calidad y de forma confiable.

Más original, aunque aún bastante lógica sea la dimensión de trasparencia y donde, quizá se vaya un paso más allá de lo habitual sea en la dimensión de humanidad especialmente en su visión de un valor holístico que incluye también lo medioambiental o social y que parece enlazar con esa inspiradora, aunque no sé cuán realista, visión de las organizaciones con propósito.


Conclusiones


No sorprende, es casi evidente en realidad, la necesidad de orientarse al cliente y lograr su satisfacción, confianza y fidelidad. Lo que sí parece detectarse es que en tiempos de disrupción y, añadiría, en tiempos de competencia intensa, debe existir un mayor foco en esa satisfacción y confianza y que ésta abarca, en apariencia, más que lo evidente para llegar, incluso, a esferas que tienen que ver con el bienestar no sólo individual sino también social.