“FI Caso pet Re El caso del robot asesino EL Caso del Rabor Asesino es una hiseoria bina elementos de ingenseria wire ¥ de erica en kx compuracidn. Puede ser tblvado como un medio para sareoduete la erica Tambien curso de ingenieria de software a cualquier punto puede usitse antes de esto. 0 & del progsama pasa que los escudiaat las complejidades del desarrollo de softseate Elargumento consta de articulos gue tratan temas espocificas de énica en compurackin ¢ ingeniesia de software Fstos tratun topicos tales como pscolopta del progsamadar, dinimsca de grupo, interfaces con el usuario, modelos del proceso de desarvallo de software, prucha de software, natutaleza de los reguesimientos, robo. de software, pewacidad, ere Una eran pregunta pare esti by es “zeuindo se considera que el s ente JLo artculos de esta historia comienzaa con Ia acusaciia por hamicatio no premeditado a un ste pragsamador habia eserit jue caus6 la muerte de un go de programador. ber detec coperidor de cohort. Lenramente, a varios aticulos, el estadante seri evade a conocer fietores dente de lk corporacion que tambien contibuyeron en el accidente, Los estudiantes (50 espern) comenzacin a darse cuenta de Ia compleyad de In tarca de construir software paca un mundo real y comenzain a ver algu los temas cticns eelacionados. com toda esta complejidad Seles mostrar el desareollo de software como un proce Este escenario no es trivial en su longitud aproximad soasta de 36 carilas Hay on este texto algo de humor hud Pl antculo gue sigue deseabe la historia en iis del li flosofia detris del disetio de tale éniea en ka compuracis, supiere como pueden ser aprovechados en ortas ‘cursos part no graduados. Richard G, Epstein, “EL uso de escenarios sobre érica de la computacioa en lv edueacion de ingeniesia_de software” el caso del robot asesino.” Enseitanza de Ingenieria de Software Antieipo de la Tana. Conferencia SEL CSEE, San Ratoni, Jo el eiscurs Very 1994 L. Duar Hertera, editor, Notas Comporor Pacis nor AesEINC EL testo consta de una iatsoduccin y 9 acticulbs ENTRODUCCION de Incroduccibn, caracterizac¥in de los peromies AR rico Progeamadar de Silicon Valley acusude por homicidin no premeditide awricuLo2 Los que desareollacoa al “Rohot Avesta” “trabajaton ajo una enome presion aricuios Los compaiceos ac a progsamador del “robor asesino™ eea una stella ARTICULO EL proyecto del “robot asesino controvertide desde el var ARTICULO-S Silicon “Vechronies: promesi tun eobor seguro ARTICULO La iaterfay del “robor asesina! ARTICULO-T Ingeniero de Software cuestiona Ia sutenticidad de las pruebas de software del ARTICULOS Silicon ifieacion de las pruchas del Empleado — de Techeronies admite in sofware ARTICULO Conversaciéa eon el Dr Hasry Yoder“FL Caso ‘ASO DEL ROBOT ASESINO. EL caso del sobor asesino consta de siete acticulos publicados en periidicos, un articule de tun jormal y-de una entrevista publieada en una revista Esta historia intents llamar la atencion, sobre tipicos de étiea en Ia compu ingenieria de software Las personas cesta historia s ads en astinaciomes in n entesamente Fieticias (eacepto por lis refeecncias 2 las Lnsversidades de Carnegie: M Purdve yal centificas Ben Shaes Se elias Silom Valley para la vubicacion del accideate debido a que sre ¢= un cono de li alta tecnologia. Todas las personas © instituciones nombradis en Stkeom Valley son, Fieticnas LA CARACTERIZACION DE LOS RSONAJES. Allendale, Abogado, comrratada pac an Andessoa, progeimadora y analista: de Silicon Techtranies, Se oponia al use del model de cascada en el proyecto del robor y- tue lespedlla por ser honesta Turina Babbage, presidente de la Assocuariom for Computing. Machinery (ACM) Anuncie que XCM seakzaria una investgacin sobre viok jones al Ceaigo de Ftica le le ACM ‘por parte cle empleados dle Silicon Techteonies. Robert Franklin, peciodista del SENTINEL-OBSERVER — de Sikcon Valley Eatrevisto al Peotesor Harry Youer pasa conocer la vissén de un experra en ética sobre kt evolucioa del caso del cabot asesino. La entrevista fue publicada en a revista dominical del SENTINEL OBSERVER Hocice Gey, Profesor de Ciencias de la Compataciin Universidad de Silicon Valle Ve primo disco temas relicionados de lt smo bt causa cl cobor asesino all radiante secbida ea bt Valley procediamsentos Sandea Henderson, Universi ico sobre aseguramiento de lt Silicon Valley ces Snopes en bt lida en la Universidad de Picinas Be nor AesEINC Ray Johason, Jefe de Division Robaitica en Silicon’ “Techteonies. La Divisiin Robiiica necesita un obo esitose Marta fucate andnima de un pesidico, Una persona sarcema de Slicon Valley que dio al SENTINEL-OBSERVER informacién sobre la inimica, de grupo en el proyecto del cobor Robbie Bart Matthews, operador del sobot, Un programa de computacsin que el robot Robbie CN3) lo masaca Roberta Matthews, vinch de Bart ane MeMurdock, Fiscal de la Ciudad de Silicon Vale quien merimsn’ premeditac Rand) hel Muckraker, pevindista del Sieom Valles Fue asignid ala historia del sober asesino por su eepuracein de cfc reporter rine Observer. igadora Bul Park, Psofesor de Fisica en la Uaiversiad de Ssheom Valley. Conti’ que Randy Samuels malinterprets las ecuaciones de la dinamica del rabor. Randy Samuel, progermadoe codigo del programa que causo que el cobor Robbie CNS) oseilars con grin amplind, matando 2 su operadar, Bact Matthews Sam Reynolds. Gerente de Proyecto del OXI, Ray Tohoson ert su supesor snmediaro, Su esperiericia fue adguiewla en el campo de Procesamiento de datos, pero fue puesto al mando del proyecto CN3D, muy a su pesar Estuba a favor de apicar el modelo de del desarrollo de software Robbie CNS), tun mal ponsamicnto h robot, Robbie jamsis ruve 1 nadie, tan asi se tora Wesley Sher, Profesor de Ingenierin de Sofiware en la Universidad de Silicon Valles Condujo una revision de Ins procedinsentos de de caida! en Techtronis. Silicon Sharon Skinner, profesora de Psicalogia del Software en la Universidad de Silicon Valley Vein a Randy Samuels como una persona“FI Caso pet Re aplicada a su sarca, susceptible poe demas a las enti lerie Thomas, Abogada, conteatada por Sam Reynolds Michael Waterson, Presidente » Presidente Ejecunve de Silicon ‘Techtronies Puso a Sam Reynolds a eargo del proyecto Robbie CX30 como una medida pact recortar gastos. Coneeiburé generosamente ak campana de seeleceion de lane MeMluedock. Contra al Dr Shee para levar adelinte una investigacin sobre aseguramiento de calidad en Siem Techrrontes Max Worthingzon, Jefe de Seguridad de Sticon—“Techtronses—Monicoreaba la comunicacion elecreomica entre empleados ¥ as descubis a Cinde Yardley Ruth Whiterspooa, aula progeamadoea Justicia part Rand) voces del com Samuels” Defendia 2 Randy Samuels solve la base de que Silicon Techteonies estaba iegilmente obligida a entregar un robot confuble v segura Cindy Yardley. empleads y probadora de fware de Sih ss Admind ly icacson de prucas de sofsware con el fin de hah resguinlar el puesto de trabajo de sus ccompaieros Harry Yoder, Peofes entrevista publicada co It revista dominseal del SENTINEL-OBSERVER, i rension entre hs responsabilides individuals y cosporativas de “Tecnologia de Pacis nor AesEINC“FL Caso Ba ROR PROGRAMADOR DE SILICON VALLEY ACUSADO POR HOMICIDIO NO PREMEDITADO. EL ERROR DEL PROGRAMA CAUSO LA MUERTE DEL OPERADOR DEL ROBOT ESPECIAL PARA EI Db sid ENTINEL-OBSERVER DN VALLEY a Ciudad de nurdock, Fiscal de fechs Silcia Val de Randy Samuels com los csinate no promedhtado.Simmelsreabqjaba¢ programador en Silicon Techtronies, Ine. una de ln ls arena ce la alta tecnologia, HI cargo involucea Te muerte de Ba l pasado mes de mayo por un robat de la Knew presas mais nuesss de Silicon Valley en Matthews, quien fuera muerte de armado de Heights, fue aph de ello, cuando el rabor que estaba operand prodinjo un-malfuncionamsenra cscilar su “beazo” violentamente. EI brazo del robot aleanzé a Matthews, aeroqingolo contea tun pared y aplastando sw crineo. Matthews en un et a de Valley: De acuerdo cargos, Samuels fue quien escribis la pieza del a, gue Hay una anunei® twuntanre programa de computadora en paste Ie la responsable de la falla del obsor evidencia_inctimiatona”, MeMurdock en una conte mmanzensda en la Corte “Tenemos la éemula—-manuscri suministraga por el fisico del proyecto, que se suponia tent gue progrimar Simucis. Pes nel lleva un protegorse de los programadores que cometen fet ka Fonmula, ¥ este a sociedad debe crores deseuidadamemte o de la ontario nad estari a salva, y menos que nadie fan as. hijos”, di “ EL SENTINE obtener una copia de OBSERVER ha podide a formals manuscrita en cuestion, Lin realidad, ewsten tees formulas sumilares, garahateadas en un pape un block borradar samaiio offer las formulas desceibe el movinsenta del braze amarillo de Cada una de Picinas Passer del robor en una direcridin: este-neste, norte sur area aba EL SENTINEL-OBSERVER mostré. has éemulas a Bill Park, profesor de Fisica en le Universidad de Silicon Valley. [ste confiem’ que estis ceutciones podian ser usadas para desenbir el movimiento del brazo de un robot BE] SENTINEL-OBSERVER entonces el cddheo del programa a Bill Pack, escrito por el acusade, ¢ Code progeamacion. P lenguaie sntamos al Profesor Pat esti muy familiarvzado con éste y muc longusies de programacidn, si cl cacigo era ‘@ no correcta para las Fomulas dadas del bra del cabo La respuesta del Profesor Park fue inmediass: “Por hipster. Paroce que snterpeets los puntos )'de has formulas como bareas,), ¢ hizo lo mismo con las X°y as 3 Se suponia que tenia gue usar las devisidas, pero en st lugar tomo los promedios! Sime prequntan, jes culpable coma el mismo demon! FL SENTINEL-OBSERVER no pude contactar a Samuels para emtevistarlo, “Se encuentes profandimente deprimidy por todo nos dio su novia por teléfona, “Pero, Randy cree que va a aliviarse en cuanto pact de su version de h historia“FI Caso pet Re LOS QUE DESARROLLARON AL “ROBOT ASESINO” TRABAJARON BAJO UNA ENORME PRESION EN TINE DN VAL LOUSERVER Ly Silicon Valley, BEUU por Mabel Muckraker El SENTINEL OBSERVER hoy que Rand Samuels que trabsjacon en el proyecto del “robot Ivonves, esmnicron ha tremendas tensiones para Finalizae el software del rbot para el I" de eneco de este a tuna faente bien informada, Tos aos nivees gereactales adviriceon a los integeantes del sta del proyecto. que “+ cumplia el objetivo prageamador de Sskeon fue acusado la seman pasada hae Randy Samuels Techtrar premeditad et Sumvels causé que al Robbe Matthews, Matthews eca_un coperidor de sobor en Cybeenetcs, Confoame a la Fiscal de Sileon Valley, Jane MeMurdock, Simuels malinrcepreté lx 1Semula matemirica, “Volviende al inofensive Robbie un, salvaje asesino” los cargos de asesinata ahora famoso “eas del sobor asesin escribi el software defecraose gi robot industrial XM aphstare coperidos, Bart icon “Lecsteonies Nosstra fuente informada, quien desea mantenerse en el anonimat’ ya la gue Macta” por el cesto de este aetcul, tiene un inte conocimiente de codes. los ispectos del provecto Robbie CN3M Marta dite al SENTINEL-OBSERVER que existia una enorme ricci entre el fete de Division Robotica, Ray Johason y el Gerence dl Prayecto Robie CX30, Sam Reynolds. “Se ediaban a muerte” manifest Macta al SENTINEL-OBSERVER en una entrevista exclusiva SHacia junio del afio pasado of prayece encontsaba puso Furies toda la Division Robvtica, que € Robbie [el rabor CN30 no duba muesteas de ser ton éxito. comercial FT (Johnson) Tarn su oficina ¥ realmente Ip desteuyo (Reynolds) Pictn ac nor AesEINC Quiero decie, uno padi ois los gritos desde el Fondo de la oficina, Johnson le die a Sam que teeminisa el proyecto para el primero de encso 0 de la contracio “codarian caberas “Yano estoy diciendo que Jahason le cordensea a Sam agren’ Marta amplicita. El mensaje fue: “acorn camino st star cami gue lh sdea de_corrar camino «querés mantence ta puest De aces com documentos provistos por Marta al. SENTINEL OBSERVER, el del junio del asio pasado. fueron agree Robbie CN veinte > ocustid algunos dias después de rosa eeunsa entee Johason eynolds que Slat Marta, los nuevos conteatados cobnson, unilateralmente de De acuerd eran un desastre hizo seguramente ispectos del proyecto Robbie ras _contrataciones, recursos de lesviando, ‘otros ids se oponia con vehemencia a esto. Johnson sate conpeia acerca de hr fabscacion ‘de hardwace Esa era su especialdad No pudo haber entendidho las diliculrides que nosotros software dela celesar un proyecto estabamos teniendo cone robvitica, Usted no puede de software aprepanda mis gente, No es come cen una linea de montare sin Marta y ofras fuentes denteo del proyecto, la comteatacién de estos nuevos weinte progeimadares evo aque se bsciem una reurion entre Jolson, Reynolds y todas los integeantes del proyecta de software de} Robbie XIN, puso fusioso. Se quejé de que el proyecto ac sta vex fue Sim (Reynolds) el gue se rnecesitaba mis gente. S principal era gu nivel dicctivo no carendéan que el Robbie CX3M ea fundimentalmente di anteriores del robe” SENTINEL-OBSERVER que empleados no estuban totalmente sntegrados al sare de versiones dliyeroo al pproweeto, ain sex meses después de su ingest cuandia dhey eobors Robie CN" fohot gue mati a Bart Marthews,y dlespachados. Segin Marta, mantener lis costs lo mis simples posible. Ne rocluide al habian side “Sim slo. queria queria que ol nueva personal complicara las leyendo manw aban costs. “Se pasaro seis me Ja mayoria de los empleados nuevos sada ce robots y Sam no estaba perder su tiempo teatando d Marta la seunin del 12 de junio se hizo famosa ome para“FI Caso pet Re cen la comoracién Silicon Techtromes porque fue en esi ounioa donde Ray Johason anuiscic su “Leoriz Iwory Snow [no existe of blanco per no hay blanco mis blanco que el blanco nieve”| de dsesio y deszerallo de sofware De acuerdo a Maeta, “Ray (lobasor fos dio una gran presentacion ea multi-media, con disposstvas y a esencin de esta coria Inory Snow” es simplemente que al bance nieve 68 89H porcine peo Ys hay eazin por ln que el software de-robyéiica ddeba ser mis puro que esto. Dijo repetd aque ‘El sofraee perfecto era wan osimoron” Masta y otros person acercaron con informacidn, retrataron a Jalson ‘como unt gerente com una desesperada nevesidhd de ser avalide por ua éxito en el. progeete Versianes anterinres de Robbie, CNH y CX2: fueron exp en natunlera > mae ceperiba que fueean éxtor comerciales. De hecho, la Diwisiéa Robotica de Sikeon Techtronics estaba operand. com sus Finanzas ca topo desde su coneepenin sex aos atris © triunfabs el CN300 Sikicon Techtronses quedaria fort del negacin de robiitien andusteal. “Los robots Robbie sateenres tuvietoa mucha prensa, especialmente aca en Silicon Valley” di cea fuente que también quiere peamanecer snonima, “Robbie CX3H ba a eapitalizarse con la buena publiccad geneeads por los proyectos antecioees. Lo iinico es gue Robbie CN3 ert mis eevolucianario de lo que Jobson quer admits CNB eepr hacia adelante en teaminos de sofisicscion Habia muchisinas preguntas pparimereos industeales en los que debris trabajae el CNB, Mucho de lo gue debia eiecutar 2 completamente nuevo, pero Johnson nunea cado entender FI solo os vein como unos sonatas. Uno de sis dehos fivoritos ett “Ta perfeccssa es la enemiga de lo bueno Pacis ROTA“FL Caso LOS COMPANEROS ACUSAN: PROGRAMADOR DEL “ROBOT ASESTINO” ERA UNA ESTRELLA EN TINE DN VAL LOUSERVER Ly Silicon Valley, BEUU por Mabel Muckraker Randy Samuel de Sikeon Teck escribir el software gue el gue: fuera programagor nies que fue casi el horrble shot asesina”’ el pasado mes de news por sneidenre del * mayo, ef9 aparentemente usa ‘pina donna’ que ll sseguracon hos watios compaiteros de trabajo fenconteaba mu leeptar—cetcas, Em unt neds de prensa con varios compafieros de abijo ce Samuel en proyecto del “eobot asesino”, el SENTING OBSERVER pada obsener —ampostantes revelaciones acerca de la psiquis del hombre que puece nahor sid li muerre pace de tees eriatucas criminalmente responsable de le Bare Marthews, operador de robot Con el permiso. de los catrevistades, SENTINEL-OBSERVER —permitié profesora Sharon Skinner del Deparcamento de Psicologia de Software en | Silicon Valle gvabaciin de la ceatrevist estudia la psicologit de los programadores y ottos factore foenen an impact end proceso de desicrollo del software Universidad de escuchar vs La Profesora Skinner pric “stariy de acueedo. con llamé de “prima donna”, Skinner, “Fste es un teemino utiliza paca referis explicé la Profesora Lun peogramador que simplemente ac mis proesamente tno puede aceptar st propa facili puede aceptar las eriticas “Randy pricey Samuels tiene Io que nosotros, peogramadores, Tlimamos una idad oventada hacia una tarea, lindand person can una personalidad onentada hacia si mismo, Le gusta poder completar cosiss muy densamerste involuceade el mundo de la esto se el Profesor Skinner en sw ofits tapizada de Hoeos 1a Profesora Skinner continas explicande algunos hechos adiciondles sobre equipos de Picinas Be nor AesEINC samacion y personalclades del progsamadoe Bisicamente, hemos encontrid equipo de programaciin seguiese de uns mezela de tpos de personalidad. snchurendo a una persona que esté onientaca hacia lt imteraceién, que sica una enorme sanstacci6a del hecho de trabsige con orsa gente alguica sue pueda ayudar 4a masttener ln pay ¥ a que las cosis se mucvin en tuna direccion positiva, Muchos proggamadores cestin oricatados hacia lo que es lt fared, esto puede ser probleminen si se rene un equips donde todos son de este mode Los compaiceos de teabay de Samuels se mostraron muy retieentes » culpa a aleuien por el desastre del cobat, pero cui presion’) part _que personalidad de Samuels surgieson varios eehos importantes, Samuels trabajaba en formado por aprosimadamente analistas, progrumadores y peobadores de software, (Fst rho tncluye a veinte progeamadores que fieson fincorporadas posterirancnte y que Hlegaron a estae activameate involucrados en el desarcolla del soltwsee de la robotics). Si bien cadt individvo del equipo poseia una “special, casi todos estaban compeomerides en todo el proceso de software de principio a hho sats hibits laborales, Sum Reynolds tenia_ue background en procesamiento de datos, Dirigio unos cuantos proyectos de snfnware de est aaturaleza”, dij tuno de los snteprantes del equipa, retiniéndose all gercate del proyecto Robbie CN. q fen el proveeto cra mais que nada de lider. Asistia 1 todas is ceurtiones impoetantes ¢ lo mantenia 1 Ray (Ray Johnson, el fete de Division Robsitica) sobre nuestras “espaldas lo mis posble.” San Reynolds, coma ya fuera informade en el SENTINEL OBSERVER de aver, se encontraba bajo una sever presion paca lograr produit wn robot Robine CN30 ‘operative para e] [de enero de este ao Sam Reynolds an puclo ser ubicado para entrowstaee ya sea sobse su rol en ef sncidente © sobre Samuels y sus hilbitos en el trabajo, “Pinimos wn equipo demoesitien, exceperin del lidera7g0° provisto. por Sam (Rernolds)”, observe otro membro del equipo Fa el mundo del desarrallo de softwase, un equipo dh donde todos los maembeos de éste tenen un decir igual en el proceso de “Desafortunadamente, equipo de individualstas muy ambiiosos, mu toma de _decisiones hosotras ramos un“FL Caso talentosos — si debo seferieme a mi misma muy opinadores, Randy Samuels) esa usta peor del grpo. Lo gue quicra decie €s gue feaiamos, par ejemplo, a dos chicos ¢ a Ung chica con grades de macstea de la CMU, y ao. ‘eran tan arragantes como Randy CMU significa Universidad de €: 8. una li Ua compas coments sobre un incidente gue Samu bo aseguramiento de dad. I involucraha a Samuels y a t%e5 eexisores de un, habia d som Thumadas madulo de software que Samay fad “revisones de cédige”. Uno de los revisores menciond gue’ Samuel habia sade un algoriimo. sumamente ineficiente (program) sorta de obscenidades y despuds se fhe. ¥ pune “Le env mis ripigo ya su fempo us sumédhlo”, agregs el eolega, algoritme algoritmo en El médulo de software del sncideate de bt reuniim de aseguramiento de la calidad fue el primero en ser identiticado como una falla en “asesino” del operidor de robot, No obstante esto colega se apurd a sefialae que la efeacta del algoritms no ert un tapico en al mnalfancionamicaro del robot. La silo que Randy hacia muy dfiil paca la gente ol poderle comunicar lis obseevaciones Se tomaba tod amy a pecho, Se gradun con el puntaje mis alto de su clase y huego se ceeibid con honores en mien de softwire on inisvamente es muy inteligente “Rana od cartel hecho en Banaee”, conniaun este “Deeia, “BENME LA ESPL LES DARE FL PRC COMPUTACION”, Ese es el tipo de arrog gue tenia y también demuests que teat me poe pacignes ie ¥ verficar kas especiticaciones. ‘smaba el aspecto de solucionar el problema, la dicha arenp lati paca desars Progrimacién — propiamente No pareciess que Randy Samuels quede ves de 1 'progeamacion sin sbservs li Protesora Skinner cuando parce de ly enteevist gis de trabajo de Samuels, “La ide Picinay Be nor AesEINC producto de sofiw los programadon ahierto a las erineas y estar menos atado al trabajo. propio. Ciectamente que la tarea de revision de cfidign es coherente 1 hibl rertenece al equipo y n0 a individuales. La aden es estar filsofia en genceal” Una cole inabl6 acesea de catro aspect de la personalidad de Samuels: su capacidad de ayuda. “Randy odiaba las reusiones, pero cea muy bueno con he relaciones de uno a no. Srompre estaba ansnse por avudae, Recuerd> una vex que me eaconteaba encerradh en ure camina si sada Len vey de tan s6lo sefalarme la dxeecion correcta, se hizo camo del problema yk resalvis él mismo. Se pass cerea de eines dias completo en mt problema imaradio en vetrospoctiva, hub) el pobre Sr. hhubiese dedicade tan s6e Por supuesto gue 1 sus propias cos tucgo de wna lng passa“FI Caso pet Re EL PROYECTO DEL “ROBOT ASESINO” CONTROVERTIDO DESDE EL VAMOS BANDOS ENFRENTADOS POR EL MODO EN QUE DEBIA PROSEGUIR EL. PROYECTO ESPECEME PARA EL pb sid PN TINE L-OMSERVER DN VALLEY Silicon Valley, BEUU e] Muckraker 5 gsupos, compeometidns con dhfecentes filosnfias de desarrollo de software, casi se eafrentan violentamente durante Lis feuniones inicales de planeamiento pars el Rebbie CN30, el rabot de Silicon Techteonies que maté aunt dabrcen de Ia linea de ensamble el pasalo mes de Robb “model proronpa staba cn cuestionamsento si cl provecte A) debi pe ee cascada” ir de acuerdo con a El modelo de eascada y el de protatipo som dos métodos comunes de organvzie un provecte ‘ware Fa el mde cha, el proyecto de softanre past a teases de etapa arvollo, La primera etapa es micntos ¥ espec dle sw de cas definidas de durante li cual se intenta aeribar aun acuerdo en cuanto ala funcionaldad detallada del sistema, media gue el provecto pasa de una etapa al ssquiente existen limitadas opoeunlades de die marcha atcis y cambiar decisones ya tomadas Una desventaya de este enfogue es que los usuarios pi tienen opormunidad de in a hasea bien entrado en el ciclo de vida del mismo En el modelo de prototipo, se pone un gran éafasis en produce un modelo promoape ‘operative bien temprano durante el cielo de vida del siscema. EI prorotipa es construide cor proposito de arebar 2 una espec Ik funcionalidad del sistema propucst Usuios porenciales interaerian com el protonpe fon forma tempeana y con frecwencia hasta gue son acordados los requerimientos, Este enfogue leds remprana dursat mucho ares que v< la opornidac de lipo en Fama de desareala, Jos porerscales usu vetuae com un sistema pe sistem final esté disefado codificade Pacts Passer fecha 11 ccicmbre del anteaiia pasid, Jan Anderson, un Faun memosindum de de amucmbo del equipo onginal del proyectes C3, duramente. ly tomada por el gesemte de proyecto Sam Reynolds de emplear el modelo de cascada, EL SENUINEL OBSERVER obruvo una copia del memo de Anderson, dh Reyaokis, y Anderson versticé ln ausenticidad del memoeindum pari aac decisin Revnolds despidi a Anderson el 21 de dlciembee, justo das semanas después que ll Elmemp de Anderson hace referencia a una reunion anterior en Ik que ocussié un fuerte fintercambio de opiniones relacionadas con lt Filosofia del desarrollo del software En el memo, Anderson subayé el siguiente parent No fueron mis intenciones impupnar su competencia dusinte muestra reunion de ayer. pete eho protestir con mi mayor vehiemeneit contea lz idea de que completemas el software de Robbse CN30 siguiendo el modelo de cascada que usted ya uso en ottos proyectos. No. necesito recordarle que aquellos eran peas de provesamiento de datos que inwolucsabaa el procesamicnto de transaccio proyecto Robbie fntoraccia, tate nes de negocios, Hl ari un alto geado de wdor, Dado que Ia anteraccion del operador con el robot es ean Jmportaate, la interfaz no puede escar disefada como una idea de timo momento, come entee sobot y si of Randy Siw Jo acuss de premecitad coperidoe Bact Matthews, pire de tes ios habia pacticipada de In reunia del 11 de ckeiombre por ly muerte del Bal Anderson chjo que Samuels no rena mucho para tuna conversucidn com este diario, deci sobre Li controversia cascadi-peototipo, peto si afirmé que daria “una mano” com tal guy exonteraran 2 Samuels SEL proyecto fue seatenctado a muerte mucho antes que Samuels malinceep femulas”,aclars Anderson enfincamente en lt sala de su casa En conversaciin coa este diario, Anderson hizo lo mee de si paca explicar la conteoversia“FI Caso pet Re cdo cascada vs. peototip en téeminos 1 pune ppodliamos Hegar a ponemos de del n ! : euerdo en Los: Spares del robot presintiesan Ty gu n mente, Reynolds ha estado en negocio de procesamieato de datos. por dlecadlas y es huenn en es0, pera nunca deberia hhaher sido ol gerente de este proyecto” SENTINEL-OBSERVER, Silicon ‘Techtronies trunsfine a Sam Reynolds de la Division Pracesamsiente de Datos, que se encargaba de anvertasio. y salanos, a ly Dsvision Robot tres semanas antes de fy eeuniéa del 11 de Reynolds fue rransferide a la Dission, Rabiitica por el presidente de Sikcon Techtronies, Michael Waterson, Reynolds reemplizala 4 John Cramer, gaien gerenciaba el anterior proyecto Robbie CNT) y CX20, Cramer fue puesto a cargo del proyecto CNM, pero muri imesperadamenre en un accideate a AL colocar 2 Rernolds a exeyo del proveete XML pos dice no inte, que Waterson sba en contea del conse de Ray Johnson, Jef de la Disistin Robotica De acuetdo con estas fuentes, Johnson se oponia fuertemente a lt ilteenativa de ponerta a Reynolds como jefe del proyecto Robbie CN30. Estas fuentes diyecon al SENTINEL-OBSERVER que la eleccida de Warerson por Reynolds decision de cecorte de transfesir« Reynolds sncosporar fue pusumente una ascas, Era mis barat ly Divisiin Robotica que un nuevo lider de proyecto fuer de ls comparacisa, La fuente andnima gae el SENTINEL OBSERVER lamas ° Marea” suaeién de este mode: “Waterson peasaba gue descriixe seria mis barato transferir a Reynolds a robénica lntes que sntentar enconteie afuera un aveve gerente part cl proveesa Robbie. demi, on rendia a sospechar de gente de frecuencia _-mandaba cuanto tied Ia peate en aprender hacee las cosas de Silicon el punto de vista de era cl gerente ¥ fue transferido a su nuevo puesto en Robotica com tun gerente y no como un expesto tecnice Clacamente, Reynolds se yeia a si mismo tanto _gevemte como eaperto téenicn, Reynolds no tenia Cconciencia de sus propias lmiaciones réenicas. Pacts nor AesEINC Seqtin Macta, Reynolds era muy eenueate ee ssara el modelo de nevi un provecto que te tun fien le habia servide en el procesamionto de dates, Til al modele prototipo como un “modelo de moda” en la reunion del 11 de diciembee, y despues de una serie de inteecambios verhales la cosa se pulse aba especialmente Tenia mucha ¢ su perspectiva. lt tsa eritica para el éxito “Anderson © recuerda Marea periencia com interfaces com usuarios v des intestz robot-aperad del CNT, dhido. ‘operadoe seria Frecuente ¥ a veces enti,” Fin su ceatreviss SENTINEL OBSERVER, Jan Anderson comento sobre este aspect de la reunidin del HL de diciembee “Reynokds estaba en contra de “perder el tiempo” — para usar sus peopias palabras — con, cualquier pode anasis fosmal de Las propiedades de los factores humanos y su wea ‘rant un tems periferice sntertaz com el usuaci, interfaces con “Pasa él [Reynolds cualquier cosa nueva ert ses de la mods” ageegt Anderson. Shas inter computidesr erin una mode, el dseie fnentain a objetos era na moda, especiticacion formal vas técnica de versfcacion cean una moda, y por sobre todo. el modelo protoripo era una mn, usta una semana despus lek reunin del 11 Ge dciombre, el grupo del provecte: Rebbe secibis un memo de Sam Reynolds concerniente al plan para el proyecto Roibhie CN “Eira el modelo de cascada, como salide d un bre", Anderson dio a este reporter mer revistha una copia cel memo con cl plan del proyecto, “Analisis especiticacion, nego disedio de a disein detallad, cocificaciin, pruel nel modo de ver usuario con el sistem cxceion del hast mun. peso mu awinzado el HL SENTINEL: OBSERVER se ha enterado de gue el primer caperadbs gue real CNB en una fatthews, ¢ fl cohor ascsin tao baci falta 186 el fohor Rebbic Bare en la uso de fancian industrial fac hhombee que fue muerte Este prim Robbie CN30 en un use industrial fa por los medios, culvert 1 periodic Anual de Accionistns, acluyend Coma una gran ison, EL Informe para los“FL Caso publicado el pasado mes de marzo, contiene en le byillaare postads uns foro de un sonnente Bont Mathews. -\ Mathews se To_muestra ‘operands al mismisim» rohor Robbie CX3" que Te aplaste hasta la muerte ean solo dos meses después de la toma forogritica PAcisase Be ROTA“FL Caso SILICON TECHTRONIC: PROMETIO ENTREGAR UN ROBOT SEGURO CUESTIONADA LA CALIDAD DE ENTRENAMIENTO DEL OPERADOR ENTINEL-OBSERVER SON VALLEY Silicon Valley, BEUU Em una conferenciz de prensa de esta tarde tun grupo de programaores tutodenominin “Comité de Justicia para Rand gjue Sibeon Lechtronics se ob hacer enseega de robots que distriburo documéaros que muestran niingiin cabo corporal a los operadnees hhumanos”, Randy Samuels es el programador que ha siclo acusado de asesinato ca el intame «aso del “robot asesino” “No podemos entender como el Fiscal put acusar a Randy con esos cargos cuando, de hecho, la compatia Silicon Lechteonies estaba legalmente obligadh a produciry entregar rabors segueos a Crhemnetis”, dijo. el vovero del Ruth Witherspoon todo esto hay un eacubsimiente ¥ gue hay agin tipo de confubulacion entre la gerencin-de Silifech [Sibcon ‘Techtronics] y la eficina del Fiscal. Michael W ‘Creemos que en a era una de los mis geandes conmbuyentes de la campida de reeleceign dela Sra, MeMlurdock del a’ prsadh”, Michacl Waterson es Presidente Bjecutwo de SiiconTechteonics. Jane MeMurdock es la Viscal de la ciudad de Silom Valles, EL SENTINEL OBSERVER confiemé gue Waterson hizo varios grandes apostes a la campaia de reelecciin de MeMurdock el otic pasado, A Randy le esnin haciendo papar los placos que tione estindares de conte no te peemiti! Geito. Whiterspoon en un: declarueiin polica hae rotos por una empre los periodistas. “Creemos que lt ado en todo este Low documentos que fucson disteibutidos por el comiré por ly “Justicia para Randy Pacisais Be nor AesEINC Samuels” eran porciones de To gue sé Hama un “documento de requeramentos’. Segtin Ruth Witherspoon y ottos miembros del comité, este documenta prueba que Samvele no fue legalmente respnsible de la muerte de Bart Marrhews, gue fue muceto por un Techeromies en Crk Hehe saforranada opecador de eobor robot de Silicon Inc. en Silicon netics, pasado mes de abil FL documento de contrat equcrimiont re Silicon Techtronies y sbosneries, Inc. Especifica eon total detalle la funcionaliad lel robor Robbie C31 que Sikeon Techreanses prometia emtrogar a Cybernetics. Seguin Whiterspoon, el robert Robbie CN3" fue disefiado part ser un robot ““oreligente™ ppudicen ser capi de operarse oa una variedad de hunciones invdusteaes Cada chenre de corporacion necesits de documentos de equerimientos separados ya que Robbie CNH robot de lave en mano” sino un robot gue aevesituha ser progeamado de forma diferente paca cada aplicacion No obstante requerimientas. que documentos de on acordhd todos los luspicios del proyecto Robbie CN30. ineluyende Al acueada entre Silicon —Leckronies ees, contenen los siguientes fuindamentos de importancia SEL robot seei de operacifin segura» aun bij circunstancias excepeionles (Ger Seccin robot no eausara dao corporal algun al caperados humane” “Ein el caso de condiciones: excepeionales {que potencialmente contengan el ri go de dato Seceidn 524 todis operidoe humana podei fngresar una Secuencia de codigos de comand, scgtin se descebe en las sezciones relovantes de | que de antes Jas excepcionales” ineluven eventos inususles tales coma datos exteatos 1 (ver Seccin adei el movimiento del cobot much pucdh acureie un eeal dato cosporal “condiciones especiticacion func desde los sensores del robot, movimieate sitieo o violento del robot o error del operidoe. Fue justamente esa condi excepcional Ia que lleva ht mucete a Bare Macthews Estos pierafos fueron extractados: de has porciones de! documenta de requerimientas gue trata sobre los Los. requerir ‘equcsimientos nv funcionales anos no funeionales stan en“FI Caso pet Re dloalle las restricciones bajo lis cuales operariael robot, Por ejemplo, el requerimieato de que rohot sesin ineapaz de daar a su-operadon hhumano es un Festricciin y Silicon Techtronics, segin Ruth Whitespoon, estaba legakmente cblgada a saisfer este punta. La parte de los requerimientas funcionales del documento de fequerimientos cure (nuevimente eh sume dralle) el compartamiento del robot y su dntericeion con cl entomno yu operador hhumano. En parsculae, los sequerimiensos funeionales especificaban el comportamento dl root bajo cdi una de las condiciones excepcionales espeeadas, fin su declaacion a los pecidists on Li conferenesa de peens Whiterspoon explicd que Bart Marchews. fue muora cuande se penddujo fa conchcion excepcional 3.2426. sta involuera an movimiento del bravo del robo exteemadamente violento © impzedecible, Esta condieion totervencisa de operador, a comande mencionados en el documento, perc aparentemente Bart Matthews se confundie ye pudo ingresar con éxito estos cSdigos equiv del aber ingress. de Tos céuligos de “Si bien el programa de Randy Samuels estaba mall formulas. de lon. verdad _malirerpeer hs a diniimiea del sobor, como se a condicion excepcional ba cisesuda paca protegesse de de sn a los petiodkistas. “Los valores del sobot por de Randy identiicagon cosrectamente iormo a los medios. 2426 est justimente este tipo Whiter ara del sgenerados el 4 esta condhcxin exeepcinnal y el operadar el robot recthis el debida aviso de que algo andaba mal” Whiterspoon dp gue poseix una declaacica timacds de otro operadon de robot de Cybernetics ent donde atiemaba que las sesiones de enteenamicnta ofrecidas por Sikcon Techtronies nunca mencionscon a Gta ai a tuntas otis condiciones excepcionales. Segin Whiterspoon, el oporidoe eel robor ha jurade que ni a él nia aing les fie diche coscilaeviolentamente otra operador de sabor ims que el brazo del cobor pods Whiterspoon citi esta declaraciin en lt i yoni Baer recibamos cconfereness de prensa featrenamiento pasa andkeiia excepcinal Duxlor much « Mathews naviese idea de gué se suponia debin la pantalla debe eompusadon ccomenaiia mostra el mensaye de & hacer cuandk Pacts Passer Jas condiciones excepcionales que requieren de in-del operadar causin un mensaje de estar que se genera en la consola del coperados La Policia de Silicon Valley confieme gue ewindo Bare ad manwal de rete 1 abierto ea la contenia los Matthews fue -muceto, a en su consolt est jt del indice g ccadigns de aagreso pea los “erro Witherspoon luego citi secciones del documento de requerimicntos que obkgin Silicon “Techteonics (el vendedor) a entrenar adecuachmeate a los operadores de robots: SEL sendedoe suministeari cvarenta. (4) horas de entrenamento para los aperidores Este entrenamicnto cubriri todos Jos aspectos de lh opericion del robot, sncluyende una deh de eben seguise excepcioniles que potenciabmente el riesgo de dao vendedor pro de prucha apropmdos que obertust exhaw seguridad que en caso de condiciones conrergan poral EL cori adminssteaci iastrumensos sin usados. para cl suficieare del pesados de las opecaciones de la consol del tnbot +d los pracednnentos de segs. Se los empleados del eicnte que hayan pasado estas W» hahibtadas pate operae c)roboe Sai certificar endinnento SEL manual instrucciones cl eferencia deberd suministear para la comprender como un sistema rsuario. EL especificaba mancjado por menies, lo cual ert mertices con el document unt eleecion razonable unlittrio en donde lo especialmente cuando la seguridad del operador », el uso de un reclado paca todas ‘leccion de opeiin de meniies fue ceion de extremada pobreva, gue requeria cde mucho uso del teelido para logear el mismo, efecto que podia haberse conseguide casi instuntineamente mediante un mouse, (Ver el paper escrito por Foley et al (6) Fn realidad, se me ocusrieron todas estas ideas antes que Foley las publicara, poro él me gan6) EL eperadie det sobor podia interacuar con cl rabot'y de este modo producir un impact sobve su comportamsenta al hacer lis opesones nies FE ment. priacipal consistia de demasiados en mi ‘piniin, cada item del meni principal tenis un“FL Caso submenii pa desplepable Algunos de los submeniies vemte wes muevamente, demasudos. 1s 1 haber muy poet ima o can en feuanto a por qué los ilemes de Tos menuies estaban lstados Hubs a el Sadlen en que lo estaban sido mucho mejor una orgasizacion stica 6 funcional Alguaos del los desplegables teniam hasta cuatr menies pop up relacionados. & secuencias a medida que se hacia la selecciéin os Geasionalmense, una eleccin de un submentt correspondiente en submeniies abrir un cuadto de didlogo en la pantalla. Un 1 tipo de cuadra de dilogo requere de ci ion entee el operadoe jemplo para resolver cieetos temas, como ser, inpresar cuil es el diimero de un dispositive dado a ser bajado en el batio de deido, El sistema de memies presenti una & jerarguia de eleccidn podria volver hacia aris apretando la rech de escape. Esta ambien podeis terminar los dilogos stricta de memes, EL opesador st Eluso de color en la interfaz fie muy poce profesional Habia demasiados. colo espacio demasiado chico, Los tes. y result en ua 5 ui fe anpresaban opciones o codigos ersineos conteastes eran paca este revise, cular en Hubo uso excesivo de imuinutos deus musicales tontos y flashes cuando se Uno deberia preguntas por qué Silicon Techtronies ay intent un enfogue mis sofisicado para el disco de la intcefiz. Luce dde_un cuidadoso estudio del dominio de los unitarios del Rabie CN3, be Megado a lt conclusiin de que una itterfar ke manipulacion dieecta, que mostrata lieralmente al robor on la consolt del operador, habia sido to ideal. EL ceatorna tan visual dente del eval operaba el robot se prestabt naturalmente al diseito de rmetiforas de pantal eatomo, metiforas que el operador podria eatendet con facildad, Fst permstiria gu hor mediante cl jpeopiadhs pasa ese perder manpulara manejo. er reprosensicion geil He solicitado a uno de doctorado, Susan Farnsworth, gue savestigara unt robot, de lt il cobor en su entorne mis estudiantes en el poeoranis esta postilidad Be nor AesEINC 4. EN QUE MODO LAINTERFAZ DEL RONOT ROBBIE CXS VIOLO LAS OCHO RUEGLAS DE ORO Ja intefaz con el usuario de Robbe CX30 violé todas y cad una de lis eeghs de ora en diferontes modos. Fn este paper sélo.tratasé tunas pocas instancias de violaciones de regs, ddejando la dscusién mis en detalle para funuros artiulos y mi peosimo libro [NOT AL PIE CODEPENDENCLA: Coma los Usuarios de Computacioras.permsten deficientes In Sagat Press, Nueva York. Este libro presen una teoris radicalmente aueva eon a la eelacion entee ki ices respect persona y st maquina Eseneilmente, algunas personas nnecesitan uns unterfaz de mala calidad a los tines de evitar ciextos problemas psicaligicos ao resueltos en sus vides |, Lo que haré es destacar sas voliciones gue fueron zelevantes en este accidente en particular HL BUSCAR SIEMPRE L.\ COHBRENCIS Fa la sarertar del usuario de Robbie CN30 hnubieson muchas sacoberencix. Los mensajes de error podian apar poclian estar acompafadns por cast cualquier tipo de ror podian aparecer en casi eualguie lngar de ts pall en cast cualquier color fecta musical. Ademis, los mensajes de Cuando Bart Matthews vio el mensaje de ecror de la condicién escepeinnal gue lucgo, la cual requeria perder, ver que sein & s probable que fuera esa Ln primera pocial Aademis, cl cio. en us cuadeo verde mensaje de error aps mensije de ersor de todo el sistema que aparece en verde Sa mingtia tipo de acompatamieate de orquesta 42. PERMITIR QCELOS USLARIOS FRECUENTES UTILICEN SHORTCUTS Este principio no apasece de ningtin mode cn tado el cise de la inteetz. Por cjomplo, hhubiee usuarios feecuenres pudieran i lerer de side) una buona se permite que: los ssesar la primera PAGINA 182231“FL Caso logar de eequectseles el uso de las techs del reek center” para clegie es ‘opeiin determinada, ET mecanismo de seleeciian de meniies de este sistoma debe haber provocade al operador bastante fatign mental Fs mis, debesin haberse pesmitido alin tipo de sistema de peo ansicpac peemiticrs al frocuente smgresar una secvencia de opciones de ment sin tener gue esperar a que apaceciers realmente el ments en panralla 43° OPRECER REALIMENTACION ‘DE INFORMACION lea de En muchos casos el si el comande gue acaba de ingresar se procesanda ono. Este problemas disco de la ssuatio no tie ademas por ls inconsts operador se le da una realimentacion decallada de lo que el robor ri. cjecurando. Ka otras, el misteriosamente slercias Ea general, al usuasio se Io leva a que espere algia tpi de sealimenticion » por eonsiguient s¢ queda confurdido cvande le pana, no ay una robot © sik entoraa, hace que recupecarse de veces enfurecedoen Algunos de los mensaes de cevimeo. N or sea una odsea tediesa, frustante ¥ a ror erin dh condescendhente 46 PERMITIR DESHACER LAS ACCIONES, CON FACTLIDAD, Como se menciona en el piseni anterior. la interéa con el usuario hace muy dificil la rarea cde deshacer entradas estineas. En general, el ssstema de menties permite deshacer las acciones, pero esti flasofin ac disefio de los cundeos de dillog condiciones excepcionales. Desele un punto de vista practic (op las acciones son isreversibles cuando val te6rico). Li mavoria de sistema esti en un estado de condicain excepesonal, esta ayude a Megar ala tragedia del eobor 47 PROMOVER QU CENTRO BEL CONTROL UNO SEN EL has de las deficiencias tratadas en los » prececentes disminuyeeon la sensaciin jer ‘no permicic deshacer cen cl moment eh que susgen lis excepeianes, aetiiin pas cel usuario pose sobre el robot. Hubieran muchas caracteristicas de esta anterfae que hicieron que el operidor consola del aperadoe y el sobor en si, mientsas ener el contol”. P no recibir ‘on faciidad las acciones fasminuir la todis estas casas sation que eaarme ache entre li que un buen diseio de interfiy hubiera hecho transpareate ln interfvz hhubieca dado al op. de escir en contacto directa ‘on-el usuario y le rador del robor la sensaciin nel mismo, fa ‘aden al robot mover un element de dctdo hasta la cmara de secado desd parect eesponcer. De este modo, ao tase Lt sensacdin de estar contenland al aot Taco a respuesta demorada del robot coma la falta de realimentacion en lt pantalla de ly compuradors,“FI Caso pet Re me hieiceon sensic que el sobor era un agente sutonome, la verdad, un sentimento come amuinimo perturbader 18 REDUCIR LA CARGA DE LA MEMORLA DECORTO PLAZO Un sistema que se maneja por medio de menties es en general bueno en téminos de Lt carga de memoria que crea ea los usuacios, No. cobstunte, hay una gan wasiaciin entre amplementaciomes parteulares de sstemas de meni en In que hace a carga de memoria. ba interfax con el usuario de Robbie meniies muy grandes sin una obwa nrgaaizacion sn cage al operador en réeminos de memoria y tambien en serminos de tiempos ce Iusgueds, el tiempo que le Het al caperidas ubicae ua opei6n detesminaca de un Muchas pantallas de diloge cequerian que ol usurio ingresart com cl reclide mumeros de partes, nombres de aschivos. » orea informacion EL sis de forma de mostracie al usuario estos aimeros na padsia haberse disefado facilmente de parte, ere. sin necesstar que el usuatic recordin estas cosas de st propia memoria Esto snceementaba la carpa sobre li memoria del Para finaliat, y esto es cealmente amperdonable. ineretble como puede parecer. habia ningiins anstalacin de ayuda ex Kaen « sensible al contesto! Si bien he ido a los cursos de entzenamientofzecilos por Sikeom Techtronies, muchas veces me encontré enc pat i sipratica rnavegando por los manuales de eefe poder eacontear lh respuesta brsicas preguntas, tales como cestt peri de momi? 2Que pasa si seleccionc esta opewin 5. UNARECONSTRUCCION DE TRAGEDIA DEL, RONOT ASESINO” Las foros policiales deli esceaa del accidemte no son mada apradables de ver La cconsola del operador estaba salpicada com bastante cantidad de sangre No obstante, bt calidad de las fotos es escepcional y utilizando impliacion pude descubrie los importanciasabee el Mathews: reenicas dl siguientes fetores di momento en gu fue docapstado Ba Pactvas nor AesEINC 1 PNCEN TABLER VERDI 44 QUEES DIDS EL techido IBM contiene un tublero numérico que puede saperar de dos modes. Cuand le hy NUM LOCK esti eacendida, esa paste comport calculadora, Del otro modo, las techs pueden usarse pata mover el cursor en ha pantalla IBIS SANGRE ESPARCIDA EN EL RO NUMERICO, Las huellas ensangrentadas inckean que Bart Matthews estuba usando el tablerc fmumerieo en el mamento en que fue golpeado y mucr NTRABA TITILANDO EN UN MENSAJE DE PRROR Esta. nos dice la situacién de err vigente en el momento en que ocurcio hn ragedia. EL mensaje de error — devia “ROBOT DYNAMICS INTEGRITY ERROR AY IaBiA UN MANUML DE REFERENCTA TABA APOYADO ABIERTO SOBRE EL AREA DE LECIURA/ESCRITURA DELA ESTACI 5k MENS AL OPI ION DETRABAT Una de los cuatro voliimenes del manual de referencia estaba abierta ca la pagina del indice gue comtenia el item SERRORES/ MENS IPS! NLA PANTALLA TAMBIEN HABEA UN (QUE MOSTRABA ENSTRUCCIONES, RADOR aerial de dveica de so 48“FI Caso pet Re PL mensaje aparecia en amas eal parte. inferior den ppantalls, Fn el mensaje se lei SPOR FAVOR INGRES INMEDIXTAMENTE. LA. SECUENCIA br COMANDOS PARY CANCHLAR EL ERROR DINAMICO DEL ROBO En hase a las evi mas otras evidencias contends ncias fisicas fen las repistros del sistem, bsindose en la niusalers del error eurride error de intogricad de dinsimica dl robor 4B, el eeror que estuve causide por cl programa de Randy Samuels) he Hegado a le le conclusion de que oceurs sguiente secuenein de event cen la Fatal abana de la tea del sobot asesino: 102230 “ERROR DE INTEGRIDAD D DINAMICA DEI. ROBOT 45" aparece pantalla, Bart Marthows no lo ve paque nc ro de audi 6 sefal sonora tal come ‘con ods las otras situaciones de error ‘error aparece en verde, le que en todos los otros comtextos significa que hy 1 proceso completindese con noamabcl ligtuw suficientemente violento como para que Bart Matthews lo note 12405 Bart Marrhows se da cuenta del mensaje de error, no sabe lo que significa No. sabe que hgeee, Jatenta con e! submenti “caneelicain de emergencit”, un submenti de pagar el sobor. Pste ravolucea parade, pero ef 1 de que le hee uso genéricn par SEIS opeiones de meni p Se Matthews no se dit cue NUM LOCK esta opeiony gue: caleuladoea ieendida Por end. las dlel meni no estin ingresindo did s teclas del cursor operan como teclas de ccomionza a aerastrar lh consola del operidoe, I robor gira del havo de acide con sus bruzos deatados banéndose con grant amplinud. Nadie esperaba que un operidor nv aque Bart Marthows queda atrapade trabajo por el robot que avanza. Mis 0 menos pine que Bart Matthews saca el ‘manual de referencia y empieza a hu que busi de un robor descontrolade, ast cat el esto Picisas ROTA ERROR DE INTL DEL ROBOT tuna referencia SRIDAD DE DINAMICA nel incice Ubica con exit dle error en el indice 1.25N0— Eleobot angeesa alive del coperades Bary Maths del procedimie snrcgricadl de dinsimica del robot. Fn su haga, ss abandon la busqueda > del operadioe anze un exror de Scaneehieion de emsergencis” desde el reclad 6. RESUMEN ¥ CONCLUSIONES Si bien el médilo de softwace por Randy Samuel a verdad que el eabor Robbie CN3) oscilaa fuera de escri conteol y atacara a su opera hhumano. un buen diseaa de la sncerty hubieea permit al peridoe rerminat con el compostamicata ceritico del robot, En base al ans de la fncerév. del usuasio. del cohor lievaco a cal utilizando las ocho reglas de om de Shneiderman, el experto en ddseio de interfaces ha arnbade 1 ka conclusion de que el cisefador de la imtecty. y np el progeamador fe In parte axis culpable en este desatoreunade 7. REFERENCIAS 1990), ‘The Gly Incerface You'll Exer Need Vanity Kosh, WI, 212 pag. (Fl Unico libro sobee Latertyz del usuacc que usted necesita Gries. Horace Book 2. Gritty, Horace (100), What We Can learn’ from she Killer Rabor |Lo que podemos apceader del robor asesino), carla dada oa el Simposie Internacional de la Universidad de Shcon Vale sobre Seguridad de Robots e Interfaces el Usuario, Marzo de 1991 También por aparecer en las Notas de Alumnos de la Universidad de Sikeon Valley“FI, Caso BEL ROROT ASSEN? Gein, Horace (Ge espera para 1)! CODEPENDENCY: How Computer Users Enable Pooe User lateetaees, Angst Press, New York [Cimo los uusiisios de” computidoris permiten snerfaces deficieates| Shacideeman, Bea (187), Desigaing the User laresfice. Addison Wes Reading MA H® pag [Di lrtetaces] DOCUMEN TO, bi REQUERIMIENTOS. DEL ROBO INDUSIRIA INTRLIGENTE Robbie CN 30 version de Cybernetics Inc. Documento Técnica N° 91 ONDINKA, —Sikeon——Techtronics Corporation, Sikeon Valley, USN 1245, pas. ateys J. B. Wallace, WL. y Chao, P (98) The Human Factors of Computer Graphics Interaction Techniques [Los fictores humanos de las réenieas de inseraccxon de grificas de compuracién] IEE COMPUTER GRAPHICS AND APPLIC TIONS, (11) pag, 13-48. PAGINazre3“FL Caso INGENTERO DE SOFTWARE CUESTIONA LA AUTENTICIDAD. DE LAS PRUEBAS DE SOFTWARE DEL “ROBOT ASESINO” LA INDAGACION = DE UN PROFESOR DE LA UNIVERSIDAD DE SILICON VALLEY PROVOCA. SERIOS CUESTIONAMIENTOS LEGALES ETICOS SPECEML PARA EL Db Stic PN TINE L-OMSERVER DN VALLEY Silicon Valley, BEUU por Mabel Muckraker EL case del “eohor asesino dio un gic significabvo ayer cuando un profesor de lt Unwwersidad de Valley informe en donde cuestiona k autensicidad de las pauchas que fueron hechas por Sibeon Techtronics al software del “etobor asesino”. EL Profesor Wesley Silber, Profesor de Ingenseri de Software, diio en una conferencia de prenst realizada en la universidad que los resultados de las reflejados en los fnreenos de Silicon Techtsonies no concordaban de las pruebas obtenides cuando él y sus eolegas ensavagon el software seal del robot Silicon Valley atin esti reaccionands por el anacio cl Profesor Silber, que podria jugar un papelamportante en el juicu 2 Rancly Samuels, el programador de Seon hu acusid por homicidio no. premecitado en ol thora intame ineideate del “robot asesino” Prosionada por su reaccién por el saforme del Pratesor Silber. la Fsseal MeMurdock reiter® su confianza en que el jurado enconerari echteonies gu culpable « Randy Samuels. Sin embargo, la Fiscal Jane MeMurdock smpresions a los. pesiodistas 1 en verdad promueve euundi agreg’ “pero, & ls positulidad de nuevas acusaciones Ruth Whiterspoon, la vaceco del “Comité dle justia para Randy Samuck”, rambién estar exultante cuando habls a este pi “MeMurdacl 0 puede tener ambas cosas”. O- el progeamadoe ex el responsable por esta Sill aa nuestro amigo y colega Rand Pacts Be nor AesEINC Fl gereate Hjecutiva de Silicon Techtronies Michael Warerson hizo la siguiente tia declasacion sobre el informe de Silber “Tan pronto se anuneié lk scusaciin de Randy Sumvels personalmears te pedt a un estimado angemiero de sofware, el De Wesle Silber, que llevar sobre los proce 1 cabo una indagacin objetiva lmicatos de asegurimieato dela Techtronics. Como gerente ecutive de este prevecto, siempre he ais cen que li calidad es lo primera, a pesar de lo gue hhayan poi leer en los persicieos calslad en. Stlcor AL profesor Silber gue condujert scion abjetiva de todas los as prurient de Techtromes. Promesi al. Profe rendsia acceso a calidad de Silicon silber gue oda la snformacin selevante a Le hye en una en mi oficina que debia esti anfortunadh situacion, reunion frente a fen proseguie la investigacion hasta su final sin amportir a donde teminasa, sin amportar las “Basindome en lk informaciin que ye recibia de mis ges nunca se me ocurti que hubieca un problema de que los procedimientos de asepueamiento de la calidad dekberadamente I pablico gue la « fa hueriny debiles alrecados Quiero segura en al lis persons cespomsables de est ascguramiento de la calidad del sofraae deat de la Division Robatica de Silicon Techteonies erin exhortados a encontae tibsio en ote lado. Roberta Matthews. viuda de Bart Matthews, el operador del rbot gue fue muerto en el sncideate, hablo relefinicamente desde su casa «can of Searing Observes. “uw guaero vor al Se Samuels condenado por Jo gue le hizo ami marida No entenda de donde viene coda be conmocidn. Fl homisee que asesin’ a am espns deheria haber probado su propio sofware! BL SENTINEL-OBSERY Prafesar Silber juste preas R enteevists al ares de su conterencia de = de st estaban En las pare icin nos recibidos a raiz de Solgados mamerosos pr Su trabay en el camp sequramiento de de software a calidad del software Comensamos la entrevista pidsendo al Protesose Silber que expiciea por qué a vores el software no es conti quested preguna ‘omplejiad de Contest cevrando hh en“FI Caso pet Re “Los grandes programas de computadora son indiscunblemente los artefactos mis complejos ceeados por Li mente humana’, explice el Pro ++ seatado freare a un monitor de grandes dimensiones. “En algun momenta un programa de compuracion esti en tuna de tos tantos estades posibles, y hay una pricier de aseguew programa se comportarii came coeresponde en ceadt uno de esos estados. No tenemos el tempo spas’ suficente para hacer tal tipo de prueba exiustiva. De modo que usamos estate de prucha o.heuciscas que. muy probablemente gacontracin los erroees © bugs, st e¢ que existe EI Profi papers sobse 1 Silber ha publicado numecosos ngeniera de sofrwace. Fseuvo. en le primera plana cuando el afo pasado publeo su lista de “Aerolineas a Evite Si su Vida Dependiesa de bllo”. Esa liste eaumeraba as aerolineas. de cabotiye que él coasideraba serespomsables por sw compra de assones que estincontrokidos software de compuracsin, Poco nemp Randy Samuels en el caso de Michael Waterson, pidho al Profesor Silber que condujera una de procedimientos dle ascgucumionto de ly calidad espnés de los cargos contra Sabor asesino’ de Sikeon ‘Vechtconics La amencin de Wareeson ofa comtrirrestar hr ala publica de su empresa luego de las acusaciones de Samuels SI Aseguramento ela Calidad” se eefiere 4 aquellos métodos que usi ua especalsta de desirsolla de software para asegurar que. el software es coafible, correcto ¥ robusto. Estos imétodos se aplican a toda lo largo del cielo de vida de desarrollo del producto de sofware. Fn sseguramien calidad Por Gemplo, euindo un progrimacer esctbe codigo, una medica de ascguramsento de calidad fs probae el ciao confontingolo en cerca con los datos de prucba, Oto métedo seria orrer“peogramas especiales, lamas onfrontindolo con el cidigo, Un analizadar estitico es un que busca patrones sospech los programas, patrones que podiaa sndicae un bug, analizadores estiticos, Estas dos formas de aseguramiento de calidad son denominadas pruebas dinimicas pruebas estiticas, sespectvamente PAcisaz ROTA E diser software de compe unidades gue eventualm, consiste ote ccombsnan pasa creae un sistema mis grande ser probadas, peste proceso de peuebs individual de las unidades es llamado pruebs se deber antegeados este proceso se lam tunidaces mismas: del uoitaria, Cuando las unidades 5 combina, probar los. subsistemas El Profesor Silber comentis al SENTINI OBSERVER sobre su teabajo en Silicon Techtvonses: “Mike [Watessoa) me dio de ie all fala compat) y conducie ura reviswin de sos " sofneare de Mike pari config. tl yer debido 4 bo uelehabian dice Senile ese Cctontenia ands milo en kx procedimients Ge emueamiento de de Silcon Techies procedimieatos de prueba dé hacer pblicos mis allazgos. calidad Luego de arabae a Silicon “Techtronies, Pratesar Silber proc par ware en la compa jlo por un de praduados, ol Prafesar Silber descubri® una diserepancia entre el comportamiento real de la seceion del codigo del programa (escrito por Randy Samvels) que CNM matare a su comporramient ceausé que el robot Robbie pesos, segiin se Ic repiste® en ln documentacion de pruebas de Silicon Techtsonies, Este descubeimiente realidad fue hecho por Sandra Hend cstuciante gradvadt en ingenseria dle software ido con el la sus laborstorios. de que esti completando sw ¢ Profesor Silber Henderson er Enieevistamos a computicion paca epresados en Unaversicad de Silicon Valley. “Hncontramas un problema en lk prucha de Ja unadad”, exphea la Sea Henderson, “Aci estin los resultados de lt prucia, que nos dio el Se. Waterson en Sikcon Techrronies, que se sup. ccadigo C lenguaie de programacsn] que Randy Samuels escabio y gue causé ef incidente del tohot asesino, Como puede ver, toda esti re documento y organiztdo. | pprucbar uno basad er una peacha de ca blanca y otro en una prueba de caja acgen indares para stn Basiadonos en muestros propios Probar software, estos ju bien clserinde rigurosos. “La ua ‘e unidad de software (0 sus componentes) como unt caja nogea que tos predecibles de ios de peueb completos“FL Caso input y ourpur Si en el juego de precha componente demuestea os comportanicntos espetacios para tod prucha. Los juegos de peuebs estin disedados los inputs, eatonces pasa ka para cube todas los comportamientos “inceresantes” que una unidad podria mostear peco sia tener conacimients alpuno sobre It estrucnuea 0 aaruraleza de cédigo en eadad. La prucha de caja blanca smplica cub pasos posibles a maivés de ln unidad prueba de caja blanca se hace com vaste Ia estructura de la unidad. Fo la de pe entencia del peogsama. se conncimsient prucha de caia blanca, ef jucg a dche causar_ que cada gjecute por le ninguna quede sin ser ejecurada Sindea Henderson peasig 6 explicwda el “Ni li ja blanca ns deca negea “proche signifiado de Li prueba de software prochade aque un programa esté probadores de software, tales como los que se templean en Silicon bastante expertos e ‘oregeto. No obstante, os ‘echiteonies, pueden volverse el disco casos de prueba para deseubsir nuevos buys en el soles, La aque un pr rea un bug cnn apeopiaga tba es exitosit cuando se encu sicamente, eb probador le di wn juego de especificaciones hace lo mei ve de si para demostrar que el cei que esti probanda no satisfice sus especificaciones”, explice la Sra, Henderson Ja Sra, Henderson hege most a este reporter los resultados de las pruebas que ella en verdad obmavo cuando corrio el codigo ceitec * usando los juegos de prueba la computa, tanto para ensayo de caja blanca como de caja aegsa En_muchos casos, los resultados eegistrados en tos documentos de pprucha de la compania no fageon les msmos gue los genesados por el verdadero cédign del robot asesino Ducsate su entrevista de ayer con SENTINELOBSERVER, el Profesor Siber discurié li disecepancia, “Veci, el software que en verdad fue carregada justo com el robot Robbe CN30 supuestames fue el mismo gue el que f acuerdn con estos documen detecminar que el verdadero “codigo asesine tal-como lp llamamos, fe ‘después de gue se condujeron supuestameate las pruebas probado, :par lo menos de Hemos podide del softwsge. Fsto sugiere vac posibilidades proceso de peach de softaase, poe lo manos para esta parte erica dels falseado delberadamente hubs Primero, ware, Fue Todos sabemos gue sna enorme peesion pata tence Isto a Pacts Be nor AesEINC robot fecha determinada. Gra posibilidad es que hubo una ciera dificultad en lk version de ln geveneia en Sikcon Teehtronies, en cuanto a que fue verdaderamente escrito, y probado con ésite pee el césliga con och en el producto entregido se insert el cidiqo equivocado Solicitumos al Profesor Silber que explicara que queria decir con “Serstin de la geeenci “En un proyecto dhdo, un componcate dado de sta refleia la evolucidin de ¢ a medida que avanza el proyect rence aletin tipo conte P im tener ie fs versiones de los compen nwire em uN proyecto tan compley este, Tal vez el peobador de software pro una version correcta del edigo. de dinimica del robot, pero en realidad se entrey) uni version obstante, esto tte ccolicién ana peegunta en cuanto a que paso con el cédipa corzecte EL Prafesoe Silher se reclind en su sillén “Realmente esto. es una gran ceaged cid pasado por prueba de un modo honesty 1 Bare Marthews robot nunca hubiese asessnadh Eatonces, a preqummta es, 2que pasaba en Silicon Techrromes gue no peemitio ua peucha honest del codigo entica? EL SENTINEL-OBSERVER preguaté- al Pratesar Silber s estaba de acuerdo con el cnncepra de que ln sarerfix del use a primordial culpable en este caso, “No ere0 en el qu el Profesor de que tt La culpabilidad en este case pe al diseftador 0 diseiadores dela tnrerfar. Concuerdo com ciemas cosas que dive pew po con todo. Dabo. preguntieme aaa nics estaba poniende del usu iegument sme mi coley Ultima Hinea de detensa contra el desastee, Ist , ellos sabian que habia un problema, pero pensaron que La ancertir del usuasio pada peeminile al operador maneiarlo” RVER « Siller sobre los cargos que BI SPNTINEL-OF entonces al Prof aceptada la designacioa de Waterson para conducir ung savestigieion objerwva del accidente, Las crticas sefialan que La Universicad de Silicon Valley. » en parsculae el Profesor“FI Caso pet Re Silber, renias muchos intereses comunes con Silicon clegido pata conducir una investigaeion objetiva echteonies, v de ese mod no podia ser *Pienso gue mi informe habla por si plies ol Profesor Silber, ssilemente molest por nuestea propa. "Yah ustedes los pesiodists una y otra ve? tras de asa anv de una fareena de la corporacion, de mado que eco que Silicon Fecheranies tea el derecho de he dicho a igaciin_guberaamental sinc clegir a quien se le ocurtiera Creo que yo les resultaba una persona com integeadad Ayer tarde, Sam Reyaokls, el gerente de Proyecto del CX3M contearé a una abogad: Valorie Thomas. La Sea ‘Thomas hizo ests declaraciones en favor de su conte vado de Techtronies haya podido SMe cliente alguien de Silicon cengaiur al Profesor Silber en lo concerniente las pruebas de software del robot Robbie CN3). EL Se Reynolds asegura que el software fue probado ¥ que el y otror sabia muy bien el hecho de que habia lao que no funciona ce chason, el superior immediate cle me lente en Siicon ¥ fuera enteegade a Chee ware de dinimica del robot: Sin embace Se Ray 1s, Inc. basindose en ka teoria ohason: “Nada es tan blanc Conforme a esa teoria, el sofseare estab «asi bee de hups v por ende podia ser libecace Sein el Se Johnson el ess de fall eri mvp 1 + el costa plo demorae mis lente ‘cea muy at Johnson exes que ls condiciones del medio ambicate gue podsia llegar a disparae un comportimicato ersinica 5 vielente del robot snprobables de ocurcic 1 Se. Jobson exer que el operador dl oboe no pod : ‘Seguin mi chente, el Se «que li sncesfaz del usuaio fue disedada de mode cle permitie al operagor detener cl soho Fo en sus quits en el caso de un movimiento del robot «que compeometiera la vida del operador E1Ss.Jolinson, Jefe de la Divisiin Rebaica de Sikeon Techeronies, no pudo see ubicade Randy Samuels entrance en ka Carte de para obtener sus comentis seri juzgado el mes Silicon Valles: Cuando se lo contact par Picisas ROTA teléfono, Samuels decivs todas las preguntas a su abogado, Ales Allendale Allendale tenia este para decir con respecto 1 los descubsimientos del Profesor Silber: Sk cliente seminie el software en cuestiin del_ modo usus con la documentacin usualy con la & probado eshaustivamente. Desconncit hasta ol momenta de gue saliesa a la luz el saforme del Profesor Silber, que el codigo involucrado en esta temble seagedia no habia silo psobade aadecuachameste de peucha ppuchicran ahor so falksficados. junte ccanza de que su eédlgo fuera ‘que los ees SPI Se. Samuels auevamente guicee expresar su gran peste por este accidente, Fl, mis que nadie, quiere que se fags uastieut en este eso, FI Sto Samuels nuevamente exnende sus mis sentidas condolenciis a la Sra, Matthews y a sus bios.EMPLEADO DE SILICON TECH TRONICS ADMITE FALSIFICACION DE, LAS PRUEBAS DEL SOFTWARE MENSAJES — TOMADOS DEL CORREO ELECTRONICO REVELAN NUEVOS DETALLES EN EL CASO DEL. “ROBOT ASESINO™ UNA ASOCIACION DE. COMPUTADORES CIENTIFICOS LANZA UNA INVESTIGACION SOBRE VIOLACIONES AL CODIGO DE ETICA AL PARA Ei Dist PN TINEL-OMSERVER CON VALLEY Cindy Yael, una probadoea de software de Silicon Techtronies, admstié hor que ell fixe li persona que crea las pruebas de software franculeatas del “robor asesina”. Las pruebas frandulentas fueron reveladas a principios de sta semana por el profesor Wesley Silber de la Unwersidad de Silicon Valle que se hit dado en lamar °F Informe sseguramiento dela cabelad fueron codigo del programa eserita por Samuel, por sees no premeditada en el incalente el robot asesino. Fl Informe Silber afiema que los resultados de las pruchas —refljadas en documentos scene de Si 19 Pechtronics som las peuebss obrenidos cuando fue prohade cl serladero codige del sobot asesir Ayer al modindia, en un acontecer inesperado, anaes se renuneia al cargo de de Seguridad de Sskeon ‘Techtronics, el $e Worthington, en una conferencia de prensa qu fue tminsminida en wwe por CNN y wtto Worthingron sacudid aloe periodistas cuando comers a cia de prensa con elanuacio “Ye soy Marti Worthington le este_modo sur responsabvlalades en Silicon Techtronies, “Basicamente, mi rabst sikeon ert proteger 8 Picisaz Techtronies de todos los enemigos, locales exteanjeros Por estranjeros quiero sigaifiear adversarios de oteas corporaciones. hi papel era mis que nada de direcciin Aquellos que teahajaban bajo ms supesvision tentan. muchas responsabullades la de proseger la planta en si, estar aleras por espianae indasteia © sneltso sahoraye. Tambien yo © a responsable de vipilie a los empleados que pustiesen estar abustade de drogss o que de alain ny estuviesen siendo desleales con Silicon Techtron Luego Worthington apunts a una pila de lkimenes que haba en una mesa a su vquieeda “Patos vohimenes representan sia sole algunos de los relevamientos electronicos de emplesdos que Vm ‘upeninr, el Se. Waterson, Estas son imprestones de_mensajes por [mail que los empleadas de Silicon Techtronies se enviaron entre si y personas de otras sitios, Puedo decir con gran empleads que se hacia este po de requis electronica, No obstante, ereo que la evidencia muestra que algunos empleados sospechaban que esto podia estar pasando, Vasios pestodistis preguntaron a los gests quign en Silicon ‘Techteonies estaba al tanto. de esa requis Worthington respondia. “Nadie sabia de Waterson y vo, mis asisrentes que ea ol responsable deen ferdd conducir el monitoreo. Mi asstente producit un informe especial, resumiondo toda Te actividad por E-mail de la semana, 9 es informe era para que lo viesa Waterson y ‘okamente, Si se lo soliitab, mi asistente polia dar un recuento mis derallado del Worthington explicé que lsposteiin-de la prensa la estaba ponienle a transeepeiones del porque queria que salhert a luz toda la verdad sobee Silicon ‘Lechtronis incidence del oboe wsesin JLos mensajes de F-mail entre empleados de Silicon Techerones en verdad revelaron nue Frceras del casi. Un mensae de Candy Yardley all jefe de Division Robotica, Ray Johnson, indica {que ella fabificsa su pedi los gesultadas de ba pruchas. Aci esti ol resto del mensaie ja: Ray Johnson de: Cindy Yardlesre: Software de Samuels ‘Sam Reynolds Ray Johnson ino seas un perleccionistal Termine de crear los resultados de pruchas de software paca ese software problemiico, segia nu idea de usar unt San znuliciin en vez del soltwire propiment dicho, dunt encontearis el documento de {is y yo hemos reno auestrs dierencin prucha moditicade, mostrar Ix simulacion | pee deo diate que personalmente me cae= esitosa bien. Por favor entende que ful lo gu Iago es con el propésito de SALVAGUARDAR « deberiamos decie a Randy sobee est TRABMO SF. TRABAIO DE TODOS EN su FSTY DIVISION. Yo te veo ati p a rods I La respuesta de Johosom al vease ce SME aM eb bas ial eet tices Waterson fue claen: quiere eener el provect En respuesta a: Cindy Yardle del robot completado en términ punt’ Fotonees, no tenemos otra recurse mis quc el de: Ray Johnson de “Ivory Snow”, Sabes lo que quiero decir con re: Software de Samuels eso. No tiene que see resi La anterty wl Sabia que podria comtar contigo. Bt. sofware para cl robot rene alpunas falls EL sperdor del cobot va a estar seguro porgu ro de que) dedieacion a Sikcon Se seed pagada con ereces Por podri caneelar cualquier mocumier del eobor Techtron favor, en el fara us un medio de fen cualquier momento. Concue comunicaciin mis seguro cuando dscunmo: cuanto 4 que Tos requerimientos no Funcionales fete tems. Te aseguro que el modo on gue | som en alunas partes demasiado vagos. Lo ideal mmaneiamos esto fue completamenre | seria quest estns no fuesan nempos de apurns transparent, peeo yo tengo mis enemigos aed | cuanhficiamos el tiempo gue le least al ! erador detener el robot en un caso di mismo en la propia SiiTech, aceidente Ra Sin embzgo no podemos renepnciat est Estas comunicacione fueron | sear requerimientos ao funcionales auevos cave el obot Robbie CX30 a Cabeeneties In Este hecho es importante porgue las pruebas de No puedo enfatizar suficientemente de que caacubrimicaro on el ancidemte del robo asesi le cuesta nada deshacerse de toda la Disision hecho pasecen inciear que el proposite | Robsiica Sus amugos del Wall Sree slo le van cde fasficar las proche de. software era | decie elictaciones!. Veris, para Waterson sseguraese de que el robot Robbie CX3 fuera | aesotras tan sole somos del moar cetegado a Cybemnetics, Inc. en la fecha que fue . fierociada eee Sticon—Techronies Re heretics Ea este mensaje Ray Johnson pareceria estar Jas trnsceipeiones del cnrrea lectrér revelan que hubieron repetidos mensajes de R. ‘omunicarse por correo electrdnicc Johnson a difesentes personas en el sentido d ica iba a ser centada BL SENTINEL-OBSERVER enteevist, roxecto Robbie CX3M aver por ht ticde a Cindy Yardley en su peopia casa. No se pucigran conmctar nia Ray [ohason gue ly Division efininicameate si em completado en kerma Ea una de lo mensajes, diserta con su lor ce proyecto, Sam Reynolds, acerca de la “Teoria Ivory Snow” PAciIvaneed“FL Caso La Seta Yardley estaba notoriamente ‘ofuscada porque sus mensajes por E-mail fueran ddados # conocer a le prensa, “De alana fosma me siento ahviada Seni una enorme culpa cuando ese hombre fue muerto por un robot que yo ayudé a produce. Una teen EL SENTINEL-OBSERVER py a. Yaedley st es que ella habia hecho waa eleceisn ética al acceder a falsear los resultados dle las pruchas de software. Respond con gran "Nad, pero mada a to lao demi experiencia y background me peepart para algo cama lo gue me pa Fseuclg ciencias de la iad de pean sivel alli me easeaaron sobre prucbas de software > jams me dijon que alguien con poder Ire mi me pprach falseadal predict genera un tuando Jobason me pidié que lo hicier ame Thame a sit oficina, como pasa mostsarme bs fri, algun dia me gustaria al. Me trampas del poder: estar en un puesto geren cficina vino directamen flsfiques los cesultados de hs prochas Samuels No gi que Reynolds se cearere de nada de est Yaraley commuvo las Lagrimas de que probablemente nadie veria jams’ los resultados de las pruebas dado que el robor ert mente seguro. Fea tan solo una eu 1a tema de proliidad, en caso de que alguien’ ee: Cebcenetics dentro de la corporaciin le diera curiosidad de ver los resultados de las pruebas. Le pregunté si estaba seguto de que el robot era seguro 5 todo eso y me dijo “js seguro! La interfay del usuario es auestea linea de defensa, in alrededor de seis meses podemos enviar una segurdt versiin del sofrwice del robot y pant ese coatonees este prablema de Samuels estar resulta Yaruley se ceckin’ en su asiento como si ke que dive 2 connauacin necesitaea de un éafasss especial fakkifcaba las pe Robotica perderian sus trabajos, Sobee esa base deci falsificar le prucias, tataba de protege imi trabajo v el de ms comparietos ‘ntonces me dio que si yo 0 bas, todos los de ht La Sera. Yaedley esti al presente cursande tun gmde de Mlaesteia en Administexcion de Empresas en fa Universidad de Sikeon Valles Pacts az Be nor AesEINC Luego el SENTINEL-OBSERVER, pregunto a la Seta Yardley si alin sentia que habia tomado uaa decsiin nea, en vista de bt muere de Bart Matthews “Crea gue fur rmanipulada por Ray Johnsen El mse di que el robot era sepur: Ore Iransesipciones del correo electeanse> doch conocer, fue el hecho de que Randy Samuels hhsta piete del sof del « menssie gue Samuels envic alla probe resultados ere bor asesina. Hste hecho se revels en un a Yara wimera ver su software ¥ dic Ba cespuests Cindy Viaeley (de: Randy Samuels re: maldito si lo sé Por mi vida, av pucdo entender qué e «gue anda mal en esta funcion balancea_brazo) Verifigue hy formula de la danimiea del robot tuna y otra ver ¥ pareciert estar amp! correctamente. Como sabes, lk funci’in Doalancear_brvet)invoca aM funciones diferentes. \ cinco de ellas las tomé tal cual del paquere estadisico PACKSTAT 1-23. (Por favor no se lo digas a nadie! No son éstas los que eausieian problema, zo sit Randy Los. expertos A SENTINE OBSERVER que tomar software de paquetes PACKSTATT EL software ral PACKSTAT [- 23 esti protegido por el mismo copyright que comerciales de softwa 23 una viokicién a la ley inmensamente popul protege al mater imps Mike Waserson, Presidente Ejecutive de Silico “Lechtronics, emis una enojosit declaracion porque May Wosthingron habia dada a conocer las seanscripciones del coreec electronica “confidenctal” Las declaraciones de w en parte, que “Yo le pedi a rnuesteos abogados que snlervinierin en este in decian, ema, Consideramas que esis. trans son propiedad exclusiva de Silicon Nvestea intencioa es efecruar arg cvvles o cramsnales conta el St, Worthington Como eeaccidn a lo oeurrido ayer en el ease del robot asesina, lk ACM o Association for Computer Machinery aminein su intencidn de“FL Caso investgar si alpiin miembeo dela ACM de Silicon “Lecheronies ha violado el Codgo d Friea de ly ACM. La ACM es una asociacion, internacional de computadores cieatificos con 85.0081 miembros Ja Dea. Turina Babbage, presidente de la ACM, huzo una declaracidn en la Conferencia d Ciencias de la Computacion de que lleva a cabo ead tavieeno y que esta temporada se hard en Duluth, Minnesota Ua exteneto de las dechiaciones de la Dea bros dela ACM estin ligndos por el Cédign de Erica y Conduera Profesional de la ACM (NOTA AL PIE: Un, borrador de este cédigo fue dado a conocer en de la ACM, Mayo 1992. Por favor aotese gue las deelaraciones hechas por kt “Todos los m Comunicaciones ficticia Dra Babbage contienen citas dh verdadero cédigo de ACM) Este cédigo estublece, ea parze, gue los miembros de ACM sv el imperativo moral ad y los hombres. evitar djios a terceros, ser honestos y confiables, dar dah sntelectus crédito adecuado ala propic accedee a Ibs recursos de comunicacion y de comparicion silo cuando asi do estén autorzados. respetar la privacidad de terceros honrar kx conticencialidad Mis alki de eso, existen.eesponsabslilades profesonales tales como bi obligacion de cumplir los contri, acucrdoe responsabilidades asigmadis, ye dar ‘undas ~ compketas de los sstemas de computackon y de sas impactos, poniendo especial éafass en los resgos potenciales Vacias de las personas iavoluceadas en ol «aso del rohor asesino soa miembsos de la ACM bay cass para erece que han incueride en violiciin del cédigo de érca de nuestra isociacion Por lp tanto, estoy solicitando al digectorio de Ia ACM designar una Fueeza de Tareas pari investigar a los muigmbsos de la ACM que puedan haber violado geosecamente el No romamos este paso a lt liger saneitn ha sido apheada silo cara vez, p ineidente del eobot asesina no sélo ha costade tuna vida humana, sino que ha causado: muche dato al seputicion de hn profesion de computa PAIN ase Be ROTA“FI, Caso BEL ROROT ASSEN? PacivassLA REVISTA DOMINICAL DEL SENTINEL-OBSERVER - UNA CONVERSACION CON EL DR. HARRY YODER por Robert Franlin Harry Yoder es una figura muy bien conocich ex el campo universitarig. de Sikeon Valley. EI profesor de Tecnologia y Ftiea de la Comp de Samuel Southerland ha eserito numerosos articulos § textas sobre ¢rica y el ampacto social de las compuridoris. Sus clases son muy famosas,» muchos de sus cursos estin completos much antes de que finakce el periada de inscripeiin. 1 Dr. Yoder ha recbido su Doctorada en ingenierta cléctrica del Instituto de Teno de Georgia en 1958. Fn 1976 recibio un geado en “Maesteia en Divinidad” del Harvacd Diviniey School. En 1983 recibsé un Master en Ciencias de la Compuracian de hi Vaiversidad de Washington. Ingeesé en la facultad de la Universidad de Silicon” Valley en 1988 Enmeviste al Dr. Yo su ofeina del campus. Mi intencits respecte al caso del cobor asesino y “leer st pensaaniento” sobre Tos remus étieos que involucra el caso, SENTINEL OBSERVER Te de la ingentiesia J estudio de religiin parece un gran salt Yoder: Yo est un ing profestin, pero todos los. seres humanos tienen una vidu interior, ro cleetrivista por sac To cree asi? SENTINEL-OBSERVER = Si YODER: DE QUE SE TRATA SU VIDA, INTERIOR? SENTINEL-OBSERVER corecto. También se teita de loygar la excelent cet To que hago. Fs eso lo que lo lewd ala Eseuelt de Divinidaal de Harvard? -Ustod queria clarticar Frata de hacer lo Yoder: Sucedian muchas cosas en La de ly Divinichd, poderosis. Sin cenbargy a y muchas de us que sua Pacis comprender Is dferenein entee lo que estaba bien > que estaba SENTINEL-OBSERVER : 2 QUE HAY DE Dios? Yoder: Si estudié mi propia evligin esistiana ala mayoria de las relgiones del mundo, y todas clas tenian cosas interesantes que decir acerca de Dios. No obstante, cuando yo discute sobre ética Catan Foro tal coms este, que es secular, cuanh iscuto tice en mis “cursos de ética en la computaciéia, no coloco a esa discusiin en un comtesta rehgiasa. Pienso que la fe relgsosa puede ayudlarle a una persona a abeavar la ética, pete p otrt parte, todos sabemos que certs personulidades —notorias— gne se han auropronunciade religiasas han sido altamente no Gress, De este modo, cuando yy discuto sobre Grica de ka computaciin, el punto de partida no es Ta eeligi¢n, sino mis bies un acuerdhy comin entte mis esrudianres y so de que queremes ser gente Gtica, yue el luchar por la execlencia tare humana que vale Ta pena, Por Io menos, lo que no queremos es herr smentir, bar, hacer tramps, btica es nut otros, no queremos str, ef SENTINEL-OBSERVER = Quid es el responsable de la muerte de Bart Michews? Yoder Por favor diserilpeme silo remito snuesamente ala escuela de la Divinidad de Harvard, pero creo que uno de mis profesores de all tiene Ta respuesta connect a su pregunta, Este profesor ert un hombre mayor, rl vez de seteata fos, de la Europa Oriental, un eabino. Este rabino diy gue dh teadc scuerce al Talmud, ant sn antigua de la ley judi s se deeransa en un puedlo, entenees los Lideses Geese pueblo eben tea los tmices del» smo 5 realizar un acto de penitencia, Esto es adem: la justiciz que se le aphicasi a la persona o personas que cometieron el asesinate. vsapelSENTINEL-O} concepts ante RVER ate Pse es un Yoder: juno de verdad? Un pueblo, una ciudad, una corporacidin som sistemas en que la parte esti ligadst al todo ¥ el todo ala parte SENTINEL-OBSERVER: Usted quiere decir que Los lideres de Silicon Techtronies, tales como Mike Waterson y Ray Johnson, deberian haber asumide la responsabilidad por este sncidenre desde el vamos. Ademis, tal vez otros snlividuos, como ser Randy Samuels ¥ Cind Yardley, comparten una carga especial de responsabilidad Yoder Si eesponsabildad, no eulpabilica La culpabilidad es un coacepre legal yla cculpabilidadl o ka macenesa de las partes involucradas, sea st en To criminal o To cil, se decicda en la corte. Estimo que una persona es responsable por la mucete de Bast Matthews si su accidn ha ayudado a causar el mescente ~ es una scald, ndependiente ck legales. Las cuestiones de ccuestivin dle ca imei respmasabilidad podeian se éticos le de interes a los ingenicros de sotiware ¥ gerentes,cpuienes tal vez (querrian analizar que es lo que ancuvo anal, de modo de evitar que similares problemas acursieran en cl faturo. Muelio de fo que sali de los medios: con respecto a este caso indica que Silicon Techteonics fera_una organizacion enferma. [sa enfermedael cs el acealente, Quin ceed Ta enfermedad? Lat gerenicit cre6 a esa enfermedad, pero también los empleados que no romaron las decisiones éticas ccostectas contrbuseron con ka misma, Tanto Randy Samuels como Cindy Vardle ceran recién epresados. Se graduiaron en ciencias de la compntacion y su primers experiencia ex el mundo laboral fue en Silicon ‘Techteonies, Uno deberia preyuntarse si recibieron alguna ensefanza sobre ética, Relacionado a esto esti a cuestidn de snterinridad En el momento del robot si alyuns de elas tenia con fespericneta cn teubayos ex ea que se los pups isignd al desurvolle asesino, Gricas? vieron la necesidad de ser personas weron que el Exito © mo profesionales requicre de un comportamiento ética? Hay mucho iis part ser un cientifico ex compurzeiéa oun ingericro de software que tan silo la habshdad y el cconogcimiento de la técnica Pacis SENTINEL-OBSERVER «com seguridad que nlyguao de los ds toad cursos sobre ética Erica de la computaci6r Yoder Lo sospechaba, Veamos a Rand Samuels, Basiadome en lo que lei en su periatice xem otros laos, ers hisicamente de los éel po “tyacker”. Amaba la compuracidia ¥ la programaciéin, Comenzé a programa en los primeros aihos de la secundaria y contin ak largo de tox la carrera universitara. Fl pune imporraste es que Samuels afi era un “hacker cuando ented en Silicon Lechtronics pemiiemn que I siguiers siendo asi Estoy usando el término “hacker” de un modo ut tanto pesorutive y tal vez esto 80 sea justo. El punro que estoy tratando de remarcar es que Sums nunca ssachuré mis alld de su angst eafoque como hacker. Fn Sikcan Techtronies, Samuels atin muantuve ests acta en lo que hacia 8 sus finciones de programador, la misma que ten estaba en Ta Secundarin Su petcepeidin de la vith ¢ de sus responsabrldades rho erect. ny tratara de desartollarse persona éica ellos le converse en una SENTINEL-OBSERVER calog Una diicultad, w hace a ensefiar Ctica, es que en general tos estudiantes no les gusta que se les cg aaguello esti mal esti bien. Yoder: Los ahumnos aecesitan entender que el tocar temas de étiea es parte de ser compuracores centiticos o ingenictos de software profestonales. Una cost que me he fiscinado acerca de la siruacidn de Silicon Techtronies es que a veces es ified ver los limites entre lo legal, Io téenico To Gtico. Los temas téenicos involucean temas de gerencia_y de computacién. He egade ala conclusiin de que este desvanecimienta de los T hecho de que la industria de ofrware atin se encuentra cn. pales. Los temas Tinites sesult rrupeamente en paste porque har tuna ausencia de hneamientos técaicos ¥ heals Fn particular, no existe pricticas normalizadas pari desterollar y probar software Hay estindaces, pero ao ly son realmente, Una broma_muy comin entre los computacores cicatificos que To bucao de los estindares es que hay muchos para elegiAnte Ia ausencia de pricticas: moamalizadas aceptadas universalmente para angenteria de software, surgen juscios valor, probablemenre mis que part cualquier otra forma de produceiin. Por ejemplo, en el caso del robor asesind, hubo una cantsoversia con respecte al user del modelo de cascada versus el de protoripo. Debido a que no habit un procesa de desarsallo de software estandarizado, esto se transformé en unt cantrovessi ¢ los temas étieos surgen por el modo en que se resuelve kt controversa, Usted recordar que el modelo de cascada fue elegide 10 por sus ménitos sino porque el gerente de prosecto tenfa experiencia en éste muchos: SENTINEL-OBSERVER Candy Yardley actud éticamente? Usted cree que Yoder AL principio su arguments parece poderoso: ella efectteamente, mint, para asi salvar los puestos de trabayo de sus compatieros, por supuesto, el de ella, Pero, sempre es correct mentir, para crear una filsedad, en un marco profesional? ccompurackin es el “Ethical Deciston Making and Information Teelaology” (Loma de Deeisiin Friea y Tecnologia dela [ntormaci’n) de Kalla Grills [NOTA’AL PIE: Este test es un texto teal yest publicado por McGraw-Hill. Fn este Ti: se dan alguaos de los peincipios ¥ reorias que csi deteas de kt wanna éviea de deeisiones. Yo us este y otros libros para avuciar a que desarolien sus apreciaciones sobre la naturalezt de ditsas éticos Kallman y Gila presentan un método para la toma de decisidn rca ¢ parte de su mod ccomsiste en el uso de cinco pruebas: it prueba de kt smsamé ale dria Ua. a su sami lo que hizo? la prueba de ku''V: cle daria Ud. a una audienesa nacional de TV lo que hizo?: la prueba dc olfat: logue Ud. hizo tiene mal olor’: la prueba de ponerse ea los zapatos del oreo: le gustaria que el ‘otro He haga lo que Ud. hyzo?s yt prueba del Lou toma ética de deeisiones. zo Yardley seprubys tex estas pruebas, pense que casi todos concuerdan conmiga. Por Gemplo, spueden imaysaua a Silicon Techvosies usando ta campatia publicitaia cue dia al q recibir ce nosorres esti bee de bugs, poxque adn “Fp Siieon Techeranies ol sofhware que as Pacis ultados vando haga uno, distossionaremos as prucbas para esconderlo, usted Fsto demuestra que el alteuismo aparente no es un indicador suficiente de un comporramiento ético, Uno podeia preguntarse qué otros mati dclatados tent a Sera, Yardley. -Podeia ser que la ambicion personal la Hevara a aceprar ka esplicaciéa que le dio Ray Johnson su afirmacidn de que el robot era seguro? SENTINEL OBSERVER fuente de guia évca para gente que se ve confeontada con in dilema érco? Este alguna Yoder Alpuunas empresas dan puin éica,en la forma de polineas de la conporacion, » existe un documento asi en Sticon Techreonies, 6 por le menos asi me diceon. Yo ao lo vi, Ln empleo tambien podria Jos Tineaientoséticos que proveen sociedies profesionales, tales como TACK, Adensis, elo ht empleada podria leer sobre cl tema past obtence una mejor percepeitin dd Ta tome ética de decisions. Por supucste ep ‘uno siempre debe consultar con su props conciencia¥ eon sus convieciones mis peofiandas smitrse SENTINEL OBSERVER Rancly Samuels crud éticamente® sted cree que Yoder Rebar software er el mole que le hizo es tanto degal como 2o tien. Pienso que el punto mis importante con Ranch Samuels nunca fie discutide en Tos medias de prensa Honestamenre dco que Samuels tuviera cl conocimicnto necesario pasi ss puesto. Fste tipo de conacimiento se lo llama conoeimiento de Inespeviadad. Samuels tenéa conovimients de compuraciin ¥ progrmacion, pero ao renia un s6lido conccimiento de dela mecini Su falta de conocimiento en el dominio de ka apkcaciéa fue uta causa direera del hornble accidente. Si alguien con conocimicntos Ade matemirieas, estas sa chisiea ws fisica hubiera pmgramado al robor en lugar de Samuels, peobablemente hoy Bat Mariuews estasieea vivo, No tengo duds de ello. Samuels malentendi la Flsmalitsiea porque no catendid su significa ¢ importancia en la aplicacidn ex el robot. Puede ser que la gerencia seen parte responsable por la sirgacion, Puede que Samuels les haya dicho acerca de sus liniaciones « la gerencia abi dicho. “Y bueno, qué imports”