sábado, 16 de febrero de 2019

La confianza

confianza
De confiar.
1. f. Esperanza firme que se tiene de alguien o algo.

2. f. Seguridad que alguien tiene en sí mismo.

3. f. Presunción y vana opinión de sí mismo.

La confianza es un concepto que ha sido reconocido como crítico para la aceptación y adopción de nuevas tecnologías. Sin embargo, no es inusual. En el siglo XXI, la mayor parte de nuestras vidas implica confiar en varias cosas, entre ellas, confiar en nuestra relación con la tecnología. 

En la aviación, la confianza en la tecnología ha sido ubicua durante muchos años, por ejemplo: El ILS, Autopilot y Autoland, etc. 

Los trenes sin conductor son cada vez más comunes en los aeropuertos y ciudades del mundo para ir de una terminal a otra; pero quizás, el avión de pasajeros sin piloto es un paso demasiado lejos en este momento, no tanto por cuestiones tecnológicas, sino de la confianza de los pasajeros en subir a una aeronave sin humanos (con sus virtudes y defectos) en la cabina. Es un acto de fe. Desde el punto de vista teológico la Fe es un don, un regalo, se recibe. La fe puede crecer o perderse. Pero no voy a entrar en disquisiciones teológicas.  

Es natural que cuando se introduzcan nuevas tecnologías, se garantice un cierto grado de desconfianza, y podría decir "esencial" dependiendo del riesgo asociado y del grado de interfaz de la tecnología con el humano. Se puede argumentar que un piloto siempre está en posición de "desconectar" el piloto automático e intervenir; sin embargo, a medida que la tecnología se vuelve cada vez más compleja e integrada, la intervención oportuna requiere niveles adecuados de conciencia situacional, un ejemplo claro: la pérdida de AF447 en el Atlántico Sur en 2009.

Cada vez más el piloto está obligado a controlar el proceso en la cabina de forma remota por medio de una serie de indicadores, sin ver el comportamiento de los sistemas. Muchas veces también sin ver las condiciones externas, un caso típico, volar en capa. La representación "del mundo" se da a través de sus instrumentos. Se plantea en este momento para el piloto o un controlador la cuestión central de la confianza en la representación proporcionada por los sistemas y através de esta representación, la confianza que otorga el propio sistema. Las acciones y los retornos de la información en el mundo real van a estar totalmente mediatizados por estos sistemas. 

La confianza es uno de los criterios de regulación del nivel de control; si apenas tengo confianza debo utilizar un sistema de control lógico, conciente, basado en los metaconocimientos(1). También, aumenta el vector de carga de trabajo, lo que reduce mecánicamente el campo de actividad. Si tengo bastante confianza en el dispositivo o sistema, el nivel de control puede aligerarse aunque el riesgo de error rutinario aumenta si la confianza es excesiva. El famoso refrán: La confianza mata al hombre.

Los mecanismos cognitivos de establecimiento de la confianza en el uso de los sistemas evolucionan en tres fases: La fe, la explicación y la experiencia.

  • La fe: No es que van a tener que estudiar teología, pero al principio las primeras interacciones con el sistema proceden de la "fe", quiero decir, una creencia favorable (o desfavorable) en el uso del aparato o sistema que solo se debe a la credibilidad que el fabricante del mismo o la opinión de otros usuarios. Si voy a incorporar algo fabricado por una empresa reconocida, con procesos de calidad rigurosos, con experiencia, etc. el acto de "fe" no va a ser un salto al vacío, sino una creencia favorable en que todo funcionará de acuerdo a lo previsto.
  • La explicación y la predictibilidad: poco a poco a través de la interacción con el sistema se marca un cierto número de leyes de funcionamiento, de normas generales. Se comprende mejor el sistema y la confianza evoluciona en función de las predicciones que llega a hacer con éxito a partir de los conocimientos que se han adquirido. La evaluación del comportamiento de la interfaz en condiciones normales y a través de esto la evaluación de todo el sistema es una condición clave del establecimiento de la confianza.
  • La experiencia: esta última fase es la única que permite que el operador acceda a la evaluación de la fiabilidad del sistema, lo que constituye la última dimensión de la confianza en el sistema.
Si el sistema es poco fiable, el operador se encuentra confrontado a su propio saber hacer en supervisión y manejo totalmente manual que puede considerarse menos fiable y más arriesgado por la carga de trabajo que genera. Se puede pensar que un operador utilizando un sistema en modo automático reforzando los controles, lo que constituye una solución intermedia que le posiciona como recuperador del sistema y le evita pasar a ser actor principal sin "red". Quizás esto explica algunos accidentes/incidentes graves en aviación, como ser el del A300 de Nagoya, japón en 1994 en que la tripulación prefirió reconectar el piloto automático ante un comportamiento anómalo del sistema en vez de continuar pilotando en modo manual. El piloto automático estaba en una posición anómala que la tripulación no se había dado cuenta y ocasionó la pérdida de control del avión. 

Un estudio de la Federal Aviation Administration | FAA expresa que factores contribuyentes al accidente fueron las acciones tomadas por la tripulación de vuelo en la interacción con el piloto automático del avión. El accidente proporcionó un claro ejemplo de cómo una avería en la interfaz de la tripulación de vuelo/automatización puede afectar la seguridad del vuelo. 
Vuelo AA965
Aunque este accidente en particular involucró un A300-600, otros accidentes, incidentes e indicadores de seguridad demuestran que este problema no se limita a ningún tipo específico de avión, fabricante, operador o región geográfica. Este punto fue demostrado, trágicamente, por el accidente del vuelo 965 de American Airlines un Boeing 757, cerca de Cali, Colombia el 20 de diciembre de 1995, y un incidente del 12 de noviembre de 1995 (casi un accidente fatal) en el que un avión de  American Airlines, Douglas MD-80, descendió por debajo de la altitud mínima de descenso en aproximación al Aeropuerto Internacional Bradley, CT, cortó las copas de los árboles, aterrizando antes del umbral de pista.

La última dimensión en la comprensión de los mecanismos de la confianza del operador frente al sistema es la desviación tolerable entre la representación del mundo proporcionado por el sistema y el propio mundo. Este tema es muy importante.
Las representaciones gráficas proporcionan una representación bastante reducida del mundo en algunos casos y también muy aumentada en otros. La representación facilitada es, por tanto, una deformación particular de la realidad; el operador debe interpretar esta representación utilizando una "función de transferencia".

Encontramos que con el avance tecnológico cada vez se muestran más y más datos, simplemente porque están disponibles técnicamente, aunque algunos sean inútiles o poco comprensibles para el operador lo que puede provocar que se interpreten mal e introduzcan distorsiones en la función de transferencia. 

"Más que el sable y que la lanza suele servir la confianza que el hombre tiene en sí mismo" José Hernández

La confianza en sí mismo ajusta (o debería ajustar) la utilización de los saberes y del saber hacer del operador. Al hacerlo, el objetivo básico del operador, es dar flexibilidad al compromiso cognitivo permitiendo una gama más amplia de posibilidades de acción en la situación. Los resultados positivos refuerzan la confianza en el empleo futuro del saber hacer. Por el contrario los resultados negativos frenan la confianza y reducen la intención de reutilizar el saber hacer. 

Según Amalberti la confianza en uno mismo evoluciona en tres fases:
  • Fase inicial o fase de defensa: El operador aprende durante su formación un mínimo de conocimientos necesarios para controlar el sistema. No está seguro de su saber hacer porque no dispone aún de retorno de la experiencia. Hay un compromiso/riesgo cognitivo alto (sobrecarga de trabajo, errores, fatiga)
  • Fase de exploración o fase de adquisición de la confianza: La adquisición de los primeros automatismos en los procedimientos básicos libera recursos libera recursos que se dedican a la exploración del sistema y la adquisición de nuevos conocimientos.
  • Fase de retracción o fase de preferencia: Una vez alcanzado el nivel de expansión máximo, el operador reduce progresivamente la fracción de conocimiento experto que utiliza en la práctica de su tarea. Hace "más" en términos de desempeño con "menos" en términos de conocimientos, automatizando su saber hacer aunque lo que resulte sea una forma de simplificación e inflexibilización de su conducta. Esto último se aplica solo a pilotos.
En resumen, cuanto más se aumenta la confianza, más reduce el campo de saber hacer utilizado. Paradójicamente, el operador va a ser cada vez más apto para poner en práctica este saber hacer con niveles de compromiso cognitivo diferentes. Aceptará puntualmente ir a buscar niveles de desempeño más elevados, reducir sus márgenes (y asumir más riesgos), controlar menos, hacer más tareas en paralelo, etc. Todo ocurre como si la confianza una vez instalada, permitiera al operador utilizar lo mejor posible toda la gama del compromiso cognitivo en una serie limitada de saber hacer.

Crear confianza en nuevas tecnologías, organizaciones y sistemas lleva tiempo y sigue su propio proceso, pero los siguientes pasos pueden considerarse útiles, si no esenciales, para crear esta confianza:
  • estándares de diseño de alta calidad
  • normas de fabricación de alta calidad
  • soporte de mantenimiento estrictamente regulado (estos tres primeros puntos pueden mejorarse a través de un programa de supervisión, aprobación, licencia y certificación)
  • Programas completos de prueba y simulación.
  • Transición al programa de operaciones con sistemas paralelos - antiguos y nuevos.
  • Monitoreo de rendimiento y retroalimentación
  • Disponibilidad de procedimientos de respaldo y sistemas a prueba de fallas.






Paz y bien
Roberto Gómez






(1) El término metaconocimiento se usa generalmente para hacer referencia al conocimiento que las personas tienen sobre sus diversos tipos de conocimientos (hechos, conceptos, procedimientos, principios, etc.) o sobre su actividad cognitiva. En definitiva, el metaconocimiento significa literalmente "conocimiento sobre el conocimiento", y designa el conocimiento que el sujeto tiene sobre sus propios conocimientos, así como el control que ejerce sobre su propio sistema cognitivo.

Bibliografía

René Amalberti, "La Acción Humana en los sistemas de alto riesgo
SKYbrary, Trust
EUROPEAN ORGANISATION FOR THE SAFETY OF AIR NAVIGATION, Guidelines for Trust in Future ATM Systems: A Literature Review

No hay comentarios.:

Publicar un comentario