ImageImageImageImage
Hazte Socio (El Foro siempre Gratis)
Paga con Tarjetas+ Info www.arde.cc/socios

Interesante debate legal

Postea aqui todos los temas generales relacionados con la robotica, noticias, novedades....

Moderator: Junta Directiva

Post Reply
User avatar
Heli
Usuario Experto
Usuario Experto
Posts: 747
Joined: Tue May 23, 2006 7:47 am
Nombre: Heli Tejedor
Location: Alcala de Henares
Contact:

Interesante debate legal

Post by Heli » Sun Feb 08, 2015 10:40 am

http://www.xataka.com/aplicaciones-y-se ... sus-duenos

Mas o menos es asi: si un programador diseña un programa autónomo capaz de tomar decisiones y "puede o puede que no" cometa actos ilegales...
¿Cual es su responsabilidad?

El tema es delicado, porque no puede hacerse un simil con otros diseños. Si haces un sistema mecánico debes hacerlo SEGURO por ley, pero las condiciones a las que se ha de enfrentar son predecibles. Pero una pieza de software que tome decisiones es totalmente impredecible...
Es parecido al tema del coche autónomo: ¿debe poner en peligro a los ocupantes para salvar de un peligro a los viandantes?
¡No es imposible, lo que pasa es que no sabes como hacerlo!
http://heli.xbot.es/" onclick="window.open(this.href);return false;

User avatar
Sphinx
Usuario Experto
Usuario Experto
Posts: 639
Joined: Thu Apr 03, 2008 4:45 pm
Location: Madrid
Contact:

Re: Interesante debate legal

Post by Sphinx » Mon Feb 09, 2015 3:58 pm

No entiendo mucho de leyes. Pero si esto es así primero habría que establecer las pautas demostrar la vinculación entre el "supuesto" creador y lo creado. Porque sería fácil llegar a inculpar a terceros inocentes de la creación de las máquinas criminales... SW o HW
Tanto si piensas que puedes, como si piensas que no puedes, estás en lo cierto.- Henry Ford
>> Mis experiencias y proyectos robóticos: http://linuxdroids.com

User avatar
furri
Usuario Desarrollador
Usuario Desarrollador
Posts: 2707
Joined: Mon Aug 22, 2005 8:16 pm
Nombre: Francisco Reinoso
Location: Marbella
Contact:

Re: Interesante debate legal

Post by furri » Tue Feb 10, 2015 11:14 am

El problema de las nuevas tecnologias es que hay que analizarla una a una... en cuanto se haga una afirmación siempre saldrán excepciones por lo que entrar en un debate general es complicado.

Tampoco se mucho de leyes pero el punto clave reside en la intencionalidad, si por inventar algo que mata a la gente te metieran en la carcel ya me direis donde habria acabado los señores Walter Chrysler, Ferdinand Porsche, Henry Ford, etc... los vehiculos a motor son dispositivos mortales por excelencia.

En el ejemplo del link, el tio que deja a un bot que compre cosas aleatoriamente el culpable (a mi entender) es el propietario de la tarjeta de credito, si no se que van a comprar con ella NO dejes que compren por tí sin tu supervisión.

hay que analizar caso por caso y aún asi será extremadamente dificil.
xBotPinguBotTarriBot

"Gracias a la LPI estoy mejorando mi nivel de ingles..."

sistemasorp
Usuario Experto
Usuario Experto
Posts: 472
Joined: Fri Jan 29, 2010 9:51 pm

Re: Interesante debate legal

Post by sistemasorp » Tue Feb 10, 2015 11:22 am

Yo pondría el ejemplo de google. El software analiza cientos de millones de páginas cada día, y aunque tiene filtros, se le cuelan imágenes con derechos de autor, páginas con números de serie de aplicaciones o cracks, apología del terrorismo, etc. Evidentemente no tienen tanto personal como para filtrarlo mediante humanos, ni existen los algoritmos perfectos que lo filtren 100% (o bien dejan pasar muchos de esos casos o bien filtra también páginas que no son ilegales). ¿Es culpa de google o de sus cientos de programadores que cuando hagas una búsqueda del número de serie de windows 7 te aparezcan en los primeros resultados números funcionales? Pues personalmente opino que no es culpa de ellos y no se les puede acusar de nada, simplemente porque su objetivo e intención originalmente no fueron esos, pero las circunstancias (que no se pueden castigar a ellas mismas) provocan este tipo de situaciones, habría que ir a los crean esas páginas, pero de por si ese concepto no es aplicable: puedes pillar a uno, dos, 100, pero habrá otros que tomarán su lugar; no existe como en Minority Report un sistema de precrimen que evite ese tipo de situaciones.

En cuanto a lo del coche, pues tampoco se puede culpar al fabricante o a los que lo han desarrollado un poco por lo mismo de antes. Las circunstancias no se pueden controlar, por tanto no se puede tener nunca una solución perfecta para cada problema y por tanto si la programación del vehículo era ocasionar los menos daños posibles pero no se consigue, pues se tendrá que asumir que ha sido un accidente.

Conclusión: Nunca van a existir las circunstancias ideonas ni se va a poder controlar el entorno 100%, como mucho habrá aproximaciones, pero nunca se llegará a la perfección, por lo que no debemos engañarnos con que se podría conseguir, sino seguir con esa incertidumbre en mente y continuar haciéndolo lo mejor que podamos.

User avatar
furri
Usuario Desarrollador
Usuario Desarrollador
Posts: 2707
Joined: Mon Aug 22, 2005 8:16 pm
Nombre: Francisco Reinoso
Location: Marbella
Contact:

Re: Interesante debate legal

Post by furri » Wed Feb 11, 2015 1:24 pm

Jo... hablo de coches como dispositivos peligrosos y hoy leo esto...

http://www.v3.co.uk/v3-uk/news/2394779/ ... n-uk-roads

El responsable en este caso concreto será el conductor de seguridad que llevarán los vehiculos mientras hagan las pruebas, por lo pronto quien viva en Bristol que se ande con cuidadito si ve un Jeep azul oscuro o negro... :P
xBotPinguBotTarriBot

"Gracias a la LPI estoy mejorando mi nivel de ingles..."

Ranganok
Usuario Desarrollador
Usuario Desarrollador
Posts: 3874
Joined: Mon Nov 07, 2005 3:10 pm
Location: Barbaros del Valle
Contact:

Re: Interesante debate legal

Post by Ranganok » Tue Feb 17, 2015 8:03 am

En sistemas críticos o que puedan causar lesiones existen normativas que se han de cumplir para poder poner un producto en la calle (al menos en Europa), esas normativas incluyen, como mínimo, seguridad eléctrica, EMC (emisiones e inmunidad electromagnética), y pruebas funcionales.

A partir de aquí, en sistemas muy críticos o con muchas variables también debe haber un operador humano que tome decisiones o que pueda tomar el control en un momento dado (generalmente se pone una gran seta roja sobre un fondo amarillo para desconectar totalmente el sistema).

S2

Ranganok Schahzaman
skiras.blogspot.com

"En igualdad de condiciones la explicación más sencilla es la cierta"

Post Reply

Who is online

Users browsing this forum: Google Adsense [Bot] and 1 guest