Caso de el robot asesino adaptado de Richard Epstein The case of the killer robot En su escenario Epstein combina muchos

elementos de la profesin de Informtica y especialmente los proceso del desarrollo de programas o software aplicaciones, Epstein da nfasis a la cuestin tica Professional Cuando es el software suficientemente bueno o suficientemente probado o es suficientemente fiable para sacarlo al Mercado El caso se compone de cerca de 70 paginas, su referencia esta en http://onlineethics.org/cases/robot/robot.html La adaptacin es corta con la intencin que toque los puntos mas esenciales que den conciencia de los efectos de una mala codificacin. Techtronics es la empresa ubicada en valle famoso Silicon Valley a cargo del software de los robots ( necesita 11 voluntarios) 1. Juana Andrade, programadora y analista que es despedida de Techtronics por oponerse al uso del modelo prototipo en el proyecto de Robots 2. Reymundo Calvo, Jefe de la divisin a cargo del xito de los robots en Techtronics 3. Marta, una persona annima que ha dado la informacin acerca de la dinmica de grupo en el proyecto del robot. 4. Ral Murcia, programador responsable de escribir las instrucciones del programa del robot Robbie CX30 que hizo que el robot oscilara salvajemente y diera a muerte a Mateo Engracia. 5. Pablo Filado, fiscal de la ciudad que ha puesto los cargos criminal en contra de Ral Murcia 6. Mabel Luste, reportera del peridico, con la tarea de escribir la historia del robot asesino. 7. Walter Verito, Profesor de Fsica de la University Silicon, quien confirma que Ral Murcia mal interpreto las ecuaciones de movimientos dinmicos 8. Samuel Mago, Jefe del proyecto CX30, experiencia en proceso de datos, el fue puesto a cargo del proyecto CX30 con el disgusto del jefe de la divisin Reymundo Calvo. Samuel usaba siempre el modelo Prototipo en el desarrollo de software 9. Pedro Ponce, Profesor de ingeniera de software de University Silicon. l condujo una revisin de procedimientos de garanta de calidad de software en el Techtronics. 10. Leticia Borla, Profesora de psicologa de software de University Silicon. Ella vio a Ral Murcia como una persona orientada por tarea que era demasiado sensible a la crtica.. 11. Mateo Engracia, operador del robot que fue matado por un robot, CX30. 12. Miguel Morton, Presidente de Techtronics. El puso a Samuel Mago a cargo del proyecto CX30, como una medida ahorrativa El apoyo monetario la campana del fiscal Pedro Filado, y ha contratado al Dr. Pedro Ponce para que conduzca una investigacin en la garanta de calidad del software a Techtronic. 13. Vicente Morales, Profesor de tica informtica de university Silicon. Examina las tensiones entre individuos y la responsabilidad de la empresa en una entrevista con Mabel del peridico de Silicn Valley.

Escena 1. Narrador Mateo Engracia muri cuando fue lanzado por un robot en la lnea de ensamble. Mateo trabajaba como un operador de robot en la compaa Ciber. Mateo fue muerto cuando el robot que l haca funcionar funcion mal y comenz a agitar su "brazo" violentamente. El brazo de robot golpe a Mateo, lanzndolo contra una pared fuertemente que sus sesos quedaron en la pared. Mateo muri casi al instante. El caso ha sobresaltado y ha enfadado muchos en el Valle de Silicio. El Fiscal Pablo Filado de la ciudad de Silicn anuncio los cargos criminales de la muerte de Mateo Engracia en contra de Ral Murcia. Segn la acusacin, Ral Murcia escribi el pedazo particular del programa de computadora responsable del funcionamiento defectuoso de robot. Fiscal Pablo Filado Entra el fiscal Pablo Filado a una conferencia de prensa donde triunfantemente anuncia las pruebas en contra de Ral Murcia. El fiscal muestra una formulas escritas a mando que fueron fiscalizadas del proyecto de Fsicos. Seor Ral Murcia tenia que programar esta formulas, para el buen funcionamiento del robot. Sr. Murcia cometi falta cuando no teniendo conocimiento suficiente de fsica mal interpreto la formula, que dio como resultado la muerte de Mateo Engracia. Nuestra vida esta rodeada de ordenadores, que ahora estn empotrados en cada esquina de nuestros hogares. Nuestra sociedad se debe defender de dar paro ha ese tipo de errores o nuestras familias podran sufrir este tipo de consecuencias. Hemos confirmado el error con el profesor de fsica Dr. Verito quien es sabedor de la lengua de ordenadores C y ha examinado el programa en C de las formulas escrita por el Sr.. Murcia. Oigamos del propio Dr. Verito Dr. Walter Verito De acuerdo a mi reexaminacin de las instrucciones en C del programa es un error claro. El programador no entendi que tenia que programar dinmicamente las derivadas el lo programo estticamente tomando los promedios en el eje Y, X, Z por eso mismo el robot siguiendo las instrucciones se meti en un loop infinito. Fue un error en su parte al no consultar.

Escena 2 Peridico ha contactado a una persona annima la llamaremos Marta para nuestros propsitos. Marta tiene una declaracin via telefnica al peridico, Mabel: puedes describir el ambiente de trabajo en Tectronic Marta Mabel te puedo decir que siempre habia una tremenda presin. Especialmente la que tenia el equipo del proyecto CX30 de terminar el software del robot para Enero 1, El jefe del proyecto anuncio que en el grupo las cabezas rodaran si no se completaba el proyecto para la fecha Enero1. Marta fue testigo de muchas fricciones entre Reymundo Calvo el jefe de la divisin y Samuel Mago jefe del proyecto. Ellos se odian ha morir. En Junio el proyecto estaba atrasado 6 meses y rumores andaban que Reymundo Calvo y su entera divisin dependa del xito del proyecto CX30. En una ocasin, Calvo llamo a Samuel a su oficina y le grito que todos omos bien claro que el proyecto tenia que terminar para Enero 1 o que se atuviera a las consecuencias. Bueno Calvo no dijo literalmente cortar esquinas al proyecto pero lo dijo indirectamente que si queramos trabajo, el proyecto tenia que estar terminado para Enero 1. Otro problema entre ellos fue que Reymundo quera solucionar el problema contratando a nuevos programadores, a lo que se opona Samuel. Reymundo lo vea desde su punto de vista de Ingeniero fabricante, agregando hombres en la fabricacin aumenta el producto fabricado. No entenda el punto de vista de Samuel que mas trabajadores a este punto seria menos productivo. Reymundo no escucho y saco plazas de otros programas y contrato mas programadores que no saban ni papa de programar robots. Necesitaran tiempo para aprender al punto donde se estaba. Reymundo nos reuni y nos dio una presentacin de su nueva teora nieve de marfil que su dicho famoso Que la nieve de marfil era solo 99.4 pura y no era razn por que el software tenia que ser mejor que eso No hay software perfecto lo perfecto es enemigo de lo bueno CX30 es el sucesor de CX20 que era mecnico en su totalidad y ahora CX30 tenia muchos micro ordenadores empotrado. Creo que Reymundo Calvo no se daba cuenta de las trascendencia que esos cambios significaban para la calidad del producto. Mabel; Gracias por acceder darnos esta informacin:

Escena 3 Representante del peridico, Mabel Luste entrevista a Leticia Borla experta psicloga de programadores, que estudia los factores que impactan el desarrollo del software. Mabel lee los informes que tiene de la conducta de grupo del proyecto. Muchos compaeros del grupo se refieren a Ral Murcia como una persona muy eficiente, seguro de si mismo, pero muy credo bien difcil de aceptar errores. Una compaera dijo que se crea la Prima Donna Dr. Leticia Borla estuvo de acuerdo con el sobrenombre Prima Donna es exactamente lo que sus compaeros describieron de El. Ral Murcia tiene una personalidad orientada a tareas, le gusta que las cosas se terminen y no descansa hasta que estn terminadas y por eso lo toma como que le pertenece. Su ego esta estrechamente ligado a su trabaja, se percibe como que el(la persona) es el trabajo que realiza. Esto es considerado de doble filo el mundo de programacin. Por que es un trabajo de grupo. Nuestra investigacin ha encontrado que un grupo necesita de muchos tipos de personalidades. Incluyendo a una persona Inter- accin orientada Alguien que le de satisfaccin trabajar con otras personas, alguien que guarde la armona y mueva las cosas hacia delante. Mabel lee Pesamos que nuestro grupo de programacin era democrtico. Sin embargo veo ahora que ramos un grupo ambicioso, con gente de talento pero tenamos individualistas como Ral Murcia. El es muy brillante pero cree que se crea mas de lo que era por que entre nosotros tenamos profesionales de universidades de renombre como la universidad de Salamanca que dicen que los estudiantes tienen que ver ranas verdes antes de un examen que no se crean las divinas garzas. Creo que se crearon mas relaciones individualistas desde que en una reunin de asegurar calidad con tarea de tres examinadores de un modulo que Ral implemento. Uno de los examinadores menciono el uso ineficiente de un algoritmo, Ral se enrojeci de la clera y nunca mas volvi a la reunin. Despus de enviarle un algoritmo mas eficiente, nosotros optamos por no meternos en sus cosas El punto dice otra fuente es que Ral no era fcil de abordar. El es muy brillante, que se rodea de carteles como Dame las especificaciones de lo que quieres y yo lo programo. El le gusta el aspecto de resolver problemas por el mismo y no tiene paciencia para cosas tediosas. Probar instrucciones no es para el. Una mujer programadora apunto un aspecto de la personalidad de Ral cuando dijo que si Ral siempre estaba dispuesto a hacer el trabajo de otros pero no a sugerir estrategias para resolver un problema. Una vez tenia un problema y cuando consulte con el, lo tomo, y das mas tardes me trajo la solucin, tomo das de su tiempo para resolverlo. Profesor Leticia Borla "No parece que Ral gan el espritu de trabajo de equipo en programacin "La idea de la programacin de equipo es que un producto de software pertenece al equipo y no a los programadores individuales. La idea es estar abierta a la crtica y ser menos atado al trabajo de alguien. Las revisiones y reexaminaciones de los mdulos son seguramente consecuentes con esta filosofa total

Escena 4 Mabel y Juana Andrade Modelos usados para el desarrollo del software podra ser la falla de CX30 y no la mala interpretacin de Ral Murcia es lo que ahora se ventila Mabel ha investigado que CX30 tenia su falla desde el inicio. Problemas encontrados: Presidente de Techtronic Miguel Morton ha puesto en cargo del software a Samuel Mago que su experiencia no era mas que proceso de datos en Negocios. Reymundo calvo se opone a ese nombramiento. Diferentes filosofa en el desarrollo del software podra haber salvado la vida del operador Mateo Engracia. Mabel presenta a Juana Andrade, como experta programadora de avanzada que fue despedida Techtgronics por haberse opuso a seguir una antigua filosofa de desarrollo de software modelo de prototipo Juana puedes explicarnos tu filosofa y tu punto de discordia con tu jefe anterior Samuel Mago. Juana Mira yo respeto la experiencia de Samuel Mago, El tiene una filosofa de desarrollo de prototipo que ha sido muy exitoso en el mundo interactivo y en el que yo confiaba mucho. Sin embargo para el tipo de tarea que tenamos enfrente no era el mas apropiado por los riesgo de seguridad del proyecto. Es cierto el prototipo da la oportunidad de crear un interfaz con retroalimentacin de los usuarios. El profile es construido con las bsicas funcionalidades pero las funcionalidades siguen refinando hasta conseguir la especificacin final, la retroalimentacin de los usuarios es fundamental en la construccin de las especificaciones. Yo he trabajado con este modelo en muchos proyectos pero en este proyecto me opona con mis garras por que vea el riesgo que este proyecto tenia para los usuarios. Yo propona una versin mas avanzada que usa como base el modelo prototipo modelo Espiral (Bohem, 1998) que incluye Anlisis de riesgo y no solo tomo en cuenta la retroalimentacin de los usuarios sino el ambiente y el impacto de los usuarios y tambin abogaba por SoDIS Software development Impact Statements que es una aplicacin que atravez de declaraciones de impacto analiza detalladamente los riesgos de cada etapa del desarrollo del software. Mabel: te despidieron por no estar de acuerdo a la filosofa del jefe. Juana, Mira Mabel, yo no me hubiera adaptado a un desarrollo de ese tipo de software en esa forma irresponsable que Samuel Mago y Reymundo Calvo queran llevarla acabo. Sino me hubieran despedido, Yo hubiese renunciado. Yo tengo claro mi funcin social profesional, el juramento que hice en mi graduacin esta presente. Debo de asegurarme que mi trabajo no daa a otros seres ni al ambiente. Yo no pienso que solamente Ral es responsable, El proyecto estaba mas diseado desde el principio. Mabel: Marta nos confirmo en su intervencin annima que tu fuiste bien clara cuando dijiste que la intervencin de los operadores era indispensable y a la vez critica y deba de asegurase su seguridad desde el principio. Juana: Tu lo has dicho, Creo que me siento satisfecha de no haber participado en ese crimen pero a la vez pienso que pude haber hecho mas que eso. Quizs era mi deber parar el proyecto. Me ha dado una gran experiencia y no creas me duele mucho la muerte de Mateo Engracia.

Escena 5 Narrador: presenta a Miguel Morton presidente de Techtronics Sociedad Annima. Miguel: Inmediatamente despus de conocer la tragedia yo personalmente contrate al mejor experto, Profesor Ingeniero muy conocido por sus investigaciones, Pedro Ponce a que condujera una investigacin imparcial en la calidad de software y los procedimientos de calidad que Techtronics. Como Presidente yo siempre he insistido y apoyado la calidad como nuestra primera misin. Yo soy el primero en saber la verdad de esta tragedia y puedo asegurar que nuestros procedimientos siempre estn enfocados a la calidad y no se ha escatimado ningn recurso para conseguir unos procedimientos de alta calidad en el desarrollo del software que fue empotrado en el Robot CX30. Quiero decir pblicamente que quien haya sido responsable por ese descuido Serra despedido de nuestra compaa.

Escena 6. Narrador: Entrevista Mabel con el profesor Pedro Ponce quien es muy reconocido especialmente despus de su articulo de cuales son las aerolneas que hay que evitar razn dada en su articulo, sus aviones estn controladas casi completamente por software y poca intervencin del Piloto. Mabel: Profesor quisiera Explicarnos por que el software no es de fiable en muchas situaciones como lo hemos visto con nuestra experiencia del los sistemas Operativos en Windows 90s sistemas operativos que es el software mas usado y por que no confia en aplicaciones controladas unicamente por software de ordenadores empotrados. Profesor Ponce. Aplicaciones programadas son los mas complejos artefactos creados por los humanos, en cualquier momento el ordenador puede tomar un estado de las innumerables estados que se dan. Prcticamente no es posible probar todos los estados en todas las condiciones, el tiempo que se necesitara es en medida exponencial. Las pruebas que se hacen son heursticas, en las que los mas probables es que se encuentren bugs(desperfectos), si existieran. Ponce; El Presidente Miguel me ha contratado porque quizs confa en lo que le han dicho los supervisores que ellos se apegan a los estndares de procesos de control de calidad. procesos de control de calidad son metodologas aceptadas para asegurar que el software es fiable. Estos mtodos son aplicados el todo el ciclo de vida del desarrollo del software. Empieza desde que el programador escribe las instrucciones para una clase o modulo, la primera medida es probarlo con una prueba de datos prueba dinmica, Otra prueba es tomar el modulo y correrlo en un programa especial analizador esttico que busca por patrones sospechosos que pueden indicar errores como infinitos loops. Piense que todos las clases o mdulos son probados estticamente como dinmicamente. Luego la integracin de esos mdulos o clases necesitan una prueba integrada. La investigacin se llevo a cabo en los procedimientos y verificacin de los procedimientos. Mis estudiantes graduados llevaron a cabo una exhaustiva prueba de cada clase a la misma vez de una prueba integrada Caja Blanca y Caja Negra Se comprob que Tectronic sigue unos procedimientos que son estndares pero hubieron discrepancia entre los datos arrojados por el robot asesino y de los de archivo dados por el departamento de prueba. Eso me podra entenderse de diversas maneras, una que hubo sabotaje, una versin no aprobada fue instalada en vez de la versin instalada o que los datos archivados y usados para la aprobacin del proyecto fueron falsificados. Profesor Ponce advierte que el ha hecho una investigacin imparcial mandada por la corporacin.