Él la vio!!!
En Marzo de este año saltaba la noticia de que un vehículo de Uber en fase de pruebas atropellaba de forma mortal a una ciclista en Arizona.
El accidente ocurrió de noche..., pero en una zona relativamente bien iluminada como se aprecia en los numerosos videos publicados en la red...
Y a raíz del accidente se barajaron múltiples hipótesis...
se especuló con que el conductor/ supervisor que viaja en todos estos vehículos semi.autónomos no estaba mirando la carretera, sino su móvil- y parece que eso era así- ver video
con lo cual ya surge el primer punto de duda... ¿si el conductor hubiese estado atento... lo podría haber evitado? quizás sí...
la otra gran línea de investigación giró alrededor de cómo se podía entender que un vehículo plagado de sensores, circulando a la velocidad estipulada en una zona no concurrida y correctamente iluminada no fuese capaz de ver al peatón.
esto provocó que Uber y muchos otros de los players del mercado que están testeando la conducción autónoma paralizasen sus tests... ante la alarma social... y las dudas "más que razonables" sobre la tecnología instalada...
Pero la noticia bomba 💣 saltó ayer... El coche sí que detectó al peatón... pero decidió no frenar ni esquivarlo!!!
Esta es con toda certeza la peor explicación del fatal accidente... La máquina decidió no tener en cuenta la vida humana 😱...
¿Y por qué?... ¿fue un fatal error informático?... pues NO❗️... mucho peor... fue una decisión derivada de cómo se le dotó de lógica al sistema...
Me explico... los coches autónomos en entornos urbanos no destacan por su suavidad de marcha... debido a la multitud de sensores, es frecuente de que frenen, aceleren de forma repetida... convirtiendo la marcha en un traqueteo poco cómodo...
Es por eso, que cuando se le dota de lógica al sistema... se le puede "afinar/ ajustar" la sensibilidad de detección de elementos y la interpretación de los mismos como amenaza a la marcha... para que tomen decisiones acorde al análisis...
Bien... en el caso de Arizona... el análisis que hizo la máquina debido al nivel de sensibilidad establecido, le hizo entender que el peatón no era un obstáculo a evitar y consecuentemente acabó chocando sin ningún indicio de esquivo- frenada o cambio de dirección...
Y esto es para mi lo que da sinceramente mucho miedo!!!... Y no deja de recordarme un tema espinoso con el que en el futuro cercano tendremos que lidiar... que no es otro que la "etica de las máquinas"...
Es decir... estamos creando máquinas que conducen, que operan, ... y que en el fondo tienen una interacción máquina-hombre... bien... y la pregunta es... ¿cómo se relacionan? ¿quién las ha dotado de inteligencia para la toma de decisiones?m ¿cómo toma esas decisiones? ¿cuáles son sus criterios/ escala de valores?...
Ese es el gran dilema... ¿cómo se establecerán esos criterios? ¿dependeremos del programador? ¿de cómo tenga el día? ¿quién podrá alterar esos criterios?...
Es un gran dilema... que hace tiempo que a los científicos del MIT les preocupa... y por eso lanzaron hace tiempo un experimento que llamaron "la moral de las máquinas"...
Se trata de un estudio sociológico que analiza el comportamiento (toma de decisiones) de los humanos ante diferentes escenarios fatales... el objetivo... ser capaces de acabar determinando una "moral/ ética" media que nos permita trasladarla a las máquinas...
Al final hablar de "moral/ ética" promedio... da sinceramente mucho miedo... pero pensar en que la máquina se comportará en función a la decisión de una única persona desconocida lo da mucho más...
Pero está claro... que mas allá de las capacidades tecnológicas, el reto de la convivencia de máquinas-personas pasa en gran parte por los patrones sociológicos y variables psicológicas que le dan sentido actualmente a la convivencia humana...
¿Cómo damos entrada a esta ecuación a una nueva variable que son las máquinas- elementos racionales que actúan estadísticamente, sin sentimientos y sin vivencias emocionales?...
