Hacia una mejor gobernanza europea de la Inteligencia Artificial.<\/p>\n
La Uni\u00f3n Europea desea :<\/p>\n
La AEPL apoya plenamente estos objetivos. Las siguientes sugerencias pretenden contribuir a alcanzarlos.<\/p>\n
Basamos estas sugerencias en tres fuentes fundamentales para el funcionamiento de la Uni\u00f3n.<\/p>\n
Adem\u00e1s, la AEPL pide a la Comisi\u00f3n que ponga en pr\u00e1ctica las sugerencias del PE sobre la IA, en particular las recomendaciones recogidas en el documento del Parlamento Europeo que figura en el Anexo 1<\/u>.<\/p>\n
La acci\u00f3n de la UE pretende \"acelerar el despliegue de la IA\". Evidentemente, este despliegue requiere la confianza de los usuarios. Por ejemplo mutatis mutandis<\/em> la l\u00f3gica de la Directiva sobre m\u00e1quinas (1989), elaborada en el contexto de la creaci\u00f3n del mercado interior, con el fin de hacer m\u00e1s fiable la libre circulaci\u00f3n de mercanc\u00edas.<\/p>\n As\u00ed, el criterio de \"confianza\" motiva una iniciativa reguladora basada en requisitos de fiabilidad para controlar los riesgos con el fin de proteger a los consumidores y los datos. El objetivo reglamentario parece apuntar a los principales riesgos de los \"sistemas de inteligencia artificial de alto riesgo\", que exigen \"normas claras\".<\/p>\n Controlar los riesgos de modo que se genere confianza entre los ciudadanos no es indiferente al contexto pand\u00e9mico actual. De hecho, el sistema estudiado forma parte de una funci\u00f3n esencial del Estado: la protecci\u00f3n de los ciudadanos, la toma de decisiones y la protecci\u00f3n del medio ambiente. tratamiento<\/em> comercializaci\u00f3n y uso preventivos. Aguas arriba, dise\u00f1o; aguas abajo, como el RGPDP, protecci\u00f3n. \u00a0\u00a0\u00a0\u00a0 2<\/sub><\/strong>incluidas las libertades p\u00fablicas fundamentales.<\/p>\n La pandemia es un tr\u00e1gico recordatorio de que esta protecci\u00f3n y cuidado pueden equipararse a las funciones regias del Estado hasta el punto de justificar restricciones sustanciales de las libertades democr\u00e1ticas. No es \u00e9ste el lugar para zanjar el debate sobre la pertinencia de esta justificaci\u00f3n, pero s\u00ed para recordar que la protecci\u00f3n y el cuidado pertenecen al plano vertical de la res publica<\/em>el inter\u00e9s general y los valores que no tienen precio y que, por tanto, han de imponerse en el plano horizontal de los intereses particularesi<\/sup>.<\/p>\n Al imponer l\u00edmites y normas al comercio horizontal, la fuerza pertenece al Estado de Derecho y no a la ley del m\u00e1s fuerte.<\/p>\n La calidad democr\u00e1tica de los procesos de toma de decisiones y de elaboraci\u00f3n de normas, la transparencia de estos procesos, la independencia de las autoridades p\u00fablicas frente a los intereses creados, la coherencia de las acciones con las palabras, los anuncios y los compromisos: todos ellos son requisitos previos para generar confianza entre los ciudadanos.<\/p>\n Con este esp\u00edritu, la AEPL le env\u00eda las siguientes advertencias y sugerencias en v\u00edsperas de la redacci\u00f3n de las disposiciones solicitadas por el Sindicato.<\/p>\n No ser\u00e1 f\u00e1cil para las autoridades europeas consolidar el Estado de Derecho frente a los Estados econ\u00f3micos de facto deseados por los mercados y las oligarqu\u00edas de la IA.<\/p>\n De hecho, las fuerzas econ\u00f3micas de todos los bandos est\u00e1n presionando para que se vuelva lo m\u00e1s r\u00e1pidamente posible a la situaci\u00f3n de siempre, e incluso para que se pongan entre par\u00e9ntesis las protecciones p\u00fablicas -especialmente las medioambientales- en nombre de los imperativos del crecimiento. Por ejemplo, se pide que se pospongan los objetivos clim\u00e1ticos para 2030, se ataca la idea del \"Pacto Verde\" de la Comisi\u00f3n, varios actores del sector digital vilipendian el RGPDP, la industria aboga por la relajaci\u00f3n de las normas nacionales, etc\u00e9tera.ii<\/sup><\/p>\n En otras palabras, se requerir\u00e1 un fuerte compromiso pol\u00edtico para garantizar la implantaci\u00f3n del sistema, es decir, en el eje vertical del inter\u00e9s general.<\/p>\n La posici\u00f3n del sistema en el eje vertical de protecci\u00f3n y asistencia exige la adopci\u00f3n de normas \"duras\" -directiva(s)- frente a normas \"blandas\". derecho indicativo<\/em>. De hecho, el efecto de tales normas \"blandas\" es \"abatir\" el sistema sobre el eje horizontal de los intereses individuales, en el mejor de los casos moralmente atenuados por las buenas pr\u00e1cticas aplicadas voluntariamente bajo la bandera de la responsabilidad social de las empresas. No se trata aqu\u00ed de cuestionar la honorabilidad y la importancia de tales pr\u00e1cticas, sino de poner de relieve sus deficiencias en t\u00e9rminos de generalizaci\u00f3n, aplicabilidad, etc. 3<\/sub><\/strong> a todo el sector y a la sostenibilidad. El cumplimiento de las buenas pr\u00e1cticas permite la parcialidad y la esporadicidad, que la fiabilidad y la confianza que espera la Comisi\u00f3n no pueden permitir.<\/p>\n \u00bfNecesitamos recordarle los efectos nocivos de la derecho indicativo<\/em>\u00bfQu\u00e9 decir del di\u00e1logo social, paralizado por los \"acuerdos voluntarios\" cuando los interlocutores sociales ten\u00edan poder para celebrar aut\u00e9nticos convenios colectivos? \u00bfO los decepcionantes resultados del m\u00e9todo abierto de coordinaci\u00f3n<\/em> que ha dado al traste con las esperanzas abiertas por el \"proceso\" de Luxemburgo en materia de empleo?<\/p>\n Por otro lado, las obligaciones presupuestarias, acompa\u00f1adas de sanciones, son m\u00e1s fuertes que nunca.<\/p>\n La seguridad de los productos de inteligencia artificial requiere normas tanto m\u00e1s estrictas cuanto que las normas de seguridad tienden a relajarse, ya sea en las normas que regulan las licencias de explotaci\u00f3n.iii<\/sup>o en cumplimiento de los requisitos de prevenci\u00f3n durante la producci\u00f3niv<\/sup>. Esta complacencia parece contradecir las crecientes exigencias ecol\u00f3gicas y de seguridad del p\u00fablico en general.v<\/sup>. Ilustra la eficacia de los grupos de presi\u00f3n y la falta de previsi\u00f3n de varias empresas.<\/p>\n La industria quiere mantener el control sobre la naturaleza de las innovaciones y el ritmo al que se introducen en el mercado en un mundo que cuestiona cada vez m\u00e1s la finalidad de las innovaciones y su impacto en el equilibrio de los ecosistemas.<\/p>\n En el contexto estrat\u00e9gico descrito, a iniciativa del Foro Europeo del Riesgovi<\/sup>la industria ha desarrollado e intenta convencer a las autoridades p\u00fablicas de que adopten un pseudo principio de innovaci\u00f3n<\/em> (que controla) que compite con la realidad principio de cautela<\/em> el \u00fanico existente en derecho. Este pseudoprincipio de innovaci\u00f3n se utiliza para justificar todo tipo de retrasos, giros y exenciones m\u00e1s o menos prolongadas de la aplicaci\u00f3n legal del principio de precauci\u00f3n. El objetivo es, evidentemente, obtener al menos de facto<\/em> en el mejor de los casos de jure<\/em> un principio de innovaci\u00f3n que pondr\u00eda en entredicho el principio de cautela y la normativa. La AEPL no acepta tales maniobras.<\/p>\n En la misma l\u00ednea estrat\u00e9gica, algunos sectores confunden regularmente la investigaci\u00f3n cient\u00edfica b\u00e1sica con la innovaci\u00f3n tecnol\u00f3gica, y la ciencia con la tecnociencia. En nombre de esta confusi\u00f3n, esta \u00faltima deber\u00eda beneficiarse de las mismas garant\u00edas de libertad (acad\u00e9mica si \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 4<\/sup><\/strong> Es s\u00f3lo investigaci\u00f3n fundamental. Esto pasa por alto el hecho de que la libre raz\u00f3n de ser de la investigaci\u00f3n fundamental -hacer avanzar el conocimiento- y su misi\u00f3n educativa de utilidad p\u00fablica la sit\u00faan en el plano vertical del inter\u00e9s general. En cambio, la innovaci\u00f3n tecnol\u00f3gica en el plano horizontal de las relaciones comerciales debe ajustarse a las normas del inter\u00e9s general.<\/p>\n Obviamente, la confusi\u00f3n se ve alimentada por la escasa inversi\u00f3n en investigaci\u00f3n universitaria (en B\u00e9lgica desde finales de los a\u00f1os 70) y por la toma de las riendas financieras por parte de la industria.<\/p>\n En particular, el sector agroqu\u00edmico revela una tipolog\u00eda muy completa de t\u00e1cticas de ahorro de tiempo, control y desviaci\u00f3n: retrasar la aplicaci\u00f3n de la normativa, etc.viii<\/sup>para poner en duda estudios cient\u00edficos inconvenientes, desacreditar a los autores de dichos estudios, burlar a los pol\u00edticos llamados a tomar decisiones, financiar investigaciones serviles, etc.ix<\/sup>El objetivo es promover los resultados de la propia empresa, atraer y controlar a cient\u00edficos de instituciones p\u00fablicas y universidades, etc.<\/p>\n Incluso si, al final, el resultado no es el esperado para una autorizaci\u00f3n concreta, el tiempo ahorrado permite desarrollar otras producciones que tambi\u00e9n tendr\u00e1n tiempo de sobra para arraigar antes de ser posiblemente descartadas en un futuro m\u00e1s o menos lejano.<\/p>\n El llamado \"principio\" de innovaci\u00f3n adquiere as\u00ed todo su significado, de modo que la industria siempre tiene el control sobre el tiempo. No le interesa el largo plazo, sino el corto. la sucesi\u00f3n de mandatos cortos<\/em> el nivel horizontal de los mercados, de las innovaciones que generan beneficios antes de ser eventualmente rechazadas por el nivel vertical del inter\u00e9s general. El principio de innovaci\u00f3n debe preceder siempre al de precauci\u00f3n, lo que es l\u00f3gico si ambos principios se sit\u00faan en pie de igualdad. Con este fin, la industria desea que se reconozca la innovaci\u00f3n. en principio<\/em>. En ese momento, el Estado de Derecho es sustituido por el imperio de la ley, al menos durante el tiempo necesario para obtener beneficios. AEPL no puede ni quiere formar parte de ese escenario.<\/p>\n En este sentido, nos gustar\u00eda destacar los efectos perversos de dos procedimientos de la UE que no deber\u00edan repetirse en el \u00e1mbito de la IA.<\/p>\n Primo<\/em>En agroqu\u00edmicos, el \"procedimiento de confirmaci\u00f3n de datos\", que autoriza la comercializaci\u00f3n supeditada a la obligaci\u00f3n del fabricante de completar la documentaci\u00f3n de seguridad del producto en el futuro.<\/p>\n Segundo<\/em>los repetidos procedimientos de di\u00e1logo a tres bandas (Consejo, Comisi\u00f3n, Parlamento) sobre el mismo tema en caso de desacuerdo en el Consejo. Estos procedimientos sucesivos s\u00f3lo sirven para ahorrar tiempo a la industria y para animar a la Comisi\u00f3n, en cada ronda de negociaciones, a suavizar sus niveles de protecci\u00f3n propuestos con la esperanza de alcanzar un acuerdo en el Consejo.x<\/sup>. Depende de \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 5<\/sub><\/strong> Parlamento.<\/p>\n Por \u00faltimo, la certificaci\u00f3n de los productos que entra\u00f1an cierto nivel de riesgo no puede confiarse al propio fabricante: en este caso es necesaria la certificaci\u00f3n de la conformidad del producto con los requisitos esenciales de seguridad de la UE por parte de un tercero. El nivel de riesgo, la cualificaci\u00f3n de los terceros certificadores y su independencia deben ser objeto de un amplio debate democr\u00e1tico.<\/p>\n \"Para las aplicaciones de IA de bajo riesgo, la Comisi\u00f3n est\u00e1 considerando un sistema de etiquetado no obligatorio si aplican normas m\u00e1s estrictas\". Esto implica sin duda la autocertificaci\u00f3n por parte de los productores. Este principio de autocertificaci\u00f3n merece un examen cr\u00edtico serio a la luz de su aplicaci\u00f3n en los \u00faltimos treinta a\u00f1os.<\/p>\n Los ciudadanos de la Uni\u00f3n esperan de los poderes p\u00fablicos determinaci\u00f3n en su lucha contra los grupos de presi\u00f3n, los conflictos de intereses y la connivencia.xi<\/sup>La autoridad europea debe garantizar la transparencia y apertura del proceso de toma de decisiones. La autoridad europea debe garantizar que los procesos de toma de decisiones sean transparentes y p\u00fablicos. La invocaci\u00f3n del secreto comercial o de los derechos de propiedad intelectual es una forma barata de garantizar la opacidad, sobre todo en el caso de los estudios de expertos.xii<\/sup>. Los procedimientos p\u00fablicos verificados por el Parlamento deben garantizar la independencia de los cient\u00edficos responsables de las evaluaciones.xiii<\/sup>.<\/p>\n Por su parte, el 7 de marzo de 2019, el Tribunal de la Uni\u00f3n Europea anul\u00f3 una decisi\u00f3n de la Autoridad Europea de Seguridad Alimentaria (EFSA). El tribunal dictamin\u00f3 que los estudios confidenciales sobre la toxicidad del glifosato deben hacerse p\u00fablicos, al considerar que \"el inter\u00e9s p\u00fablico en el acceso a la informaci\u00f3n\" en materia medioambiental pesa m\u00e1s que los intereses comercialesxiv<\/sup>. La AEPL considera que la misma regla se aplica en el \u00e1mbito de la IA.<\/p>\n Al especificar sus intenciones respecto a la IA, la Comisi\u00f3n tambi\u00e9n afirma: \"Los sistemas de inteligencia artificial deben ser transparentes y trazables, garantizando al mismo tiempo el control humano. Las autoridades deben poder probar y certificar los datos utilizados por los algoritmos. Se necesitan datos imparciales para entrenar a los sistemas de alto riesgo para que funcionen correctamente y para garantizar el respeto de los derechos fundamentales, incluida la no discriminaci\u00f3n.\"<\/p>\n La Comisi\u00f3n precisa que su sistema no afecta a las aplicaciones militares. Sin embargo, la AEPL se\u00f1ala que los oligopolios tecnol\u00f3gicos no hacen tal distinci\u00f3n. Tanto es as\u00ed que fueron los trabajadores de Google quienes recientemente pusieron en jaque parte de la porosidad entre aplicaciones civiles y militares. Hay que tener en cuenta este tipo de confusiones a la hora de hablar de transparencia.<\/p>\n Adem\u00e1s, los oligopolios comprometen recursos astron\u00f3micos y a veces desagradables para imponer la ley del m\u00e1s fuerte y ejercer una presi\u00f3n vertical sobre las autoridades p\u00fablicas, que s\u00f3lo disponen de medios para hacerlo.<\/p>\n de la Ley para proteger a los ciudadanos. \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 6<\/sub><\/strong><\/p>\n M\u00e1s all\u00e1 de la cuesti\u00f3n de la seguridad y la protecci\u00f3n de datos, el sistema tambi\u00e9n deber\u00eda garantizar el derecho de los ciudadanos a la transparencia en el funcionamiento de los algoritmos. Un derecho digital a saber deber\u00eda permitir una radiograf\u00eda cr\u00edtica de los algoritmos, o una auditor\u00eda, como dice Dominique Cardon.<\/p>\n A pesar de las dificultades mencionadas en los p\u00e1rrafos anteriores, se ha producido un cambio en el equilibrio de poder, propiciado en particular por el auge de la sociedad civil, que exige responsabilidades, y el preocupante declive de la confianza en las instituciones tradicionales, incluidas las empresas privadas.xvi<\/sup>.<\/p>\n La necesidad de revisar nuestros estilos de vida hacia una mayor sostenibilidad, debatida desde la Cumbre de R\u00edo en 1992, ha estado en el centro de las preocupaciones de un peque\u00f1o pero creciente n\u00famero de agentes econ\u00f3micos, entre ellos muchos industriales, que han decidido integrar los principios del desarrollo sostenible elaborados por la ONU en su estrategia empresarial.xvii<\/sup>.<\/p>\n Esta acci\u00f3n ha adoptado diversas formas, ya que los principios no pueden transponerse directamente a los agentes cuyo objetivo es obtener beneficios. Una de ellas ha sido profundizar en la noci\u00f3n de innovaci\u00f3n responsable, sobre todo a ra\u00edz de la decisi\u00f3n de la CE de incorporar la llamada \"Investigaci\u00f3n e innovaci\u00f3n responsables <\/u>en el programa Horizonte 2020. Bas\u00e1ndose en esta experiencia, el documento adjunto Comentarios<\/u> sobre los documentos publicados el 19 de febrero de 2020<\/u> <\/em>\u00a0<\/strong>muestra lo rico que puede ser el debate en torno a estos grandes temas, y lo diferente que puede ser la comprensi\u00f3n de realidades complejas cuando se recurre a actores experimentados en la materia.<\/p>\n La AEPL concibe este debate sobre la seguridad de los sistemas como parte de una reflexi\u00f3n m\u00e1s amplia sobre la finalidad de la innovaci\u00f3n tecnol\u00f3gica en t\u00e9rminos de su contribuci\u00f3n al bienestar y al progreso de la humanidad. Este progreso debe estar indexado en un crecimiento del ser y no del tener, en armon\u00eda con las interdependencias terrestres y sociales y, por tanto, enfocado a largo plazo. Por ello, la AEPL considera que esta iniciativa reguladora debe inscribirse en un proceso democr\u00e1tico de determinaci\u00f3n de la naturaleza deseable de las innovaciones.<\/p>\n El principio de precauci\u00f3n, combinado con el principio de proporci\u00f3n, es sin duda una de las claves para enfocar correctamente una innovaci\u00f3n que esperamos que sea viable.xviii<\/sup><\/u>.<\/p>\n Para ello, pedimos a las autoridades europeas que trabajen con un amplio abanico de actores sobre el terreno, para tender puentes entre los distintos componentes de la sociedad, con las empresas, los gobiernos, la sociedad civil, las universidades y los inversores que practican las finanzas sostenibles.<\/p>\n Por ello, la AEPL insta a las autoridades europeas a que movilicen las herramientas de la IA para aplicar la Pol\u00edtica Verde. \u00a0\u00a0\u00a0\u00a0\u00a0 7<\/strong> Deal y reparar las fracturas sociales. Las necesidades son enormes en lo que se refiere al desarrollo de las competencias de las personas, la circulaci\u00f3n del conocimiento, la cultura, los cuidados en todas sus formas, el desarrollo de los servicios p\u00fablicos y el acceso de todos a estos servicios. Si la Uni\u00f3n Europea quiere aumentar su independencia tecnol\u00f3gica, puede hacerlo poniendo en marcha un programa de proyectos conjuntos y desarrollando las herramientas necesarias para lograrlo. ad hoc<\/em>. En otras palabras, dise\u00f1ar las herramientas para la inteligencia compartida.<\/p>\n Sobre la base de un proyecto as\u00ed, definido democr\u00e1ticamente, se plantean las cuestiones igualmente democr\u00e1ticas de qu\u00e9 datos capturar, por qui\u00e9n, para qu\u00e9 fines, sujetos a qu\u00e9 tratamiento, para qu\u00e9 contribuci\u00f3n al debate sobre las opciones de la sociedad, etc. Esos datos y metadatos se tratar\u00edan entonces como propiedad com\u00fan.<\/p>\n Junio de 2020<\/p>\n \u00a0ix<\/sup> V\u00e9ase, por ejemplo, St\u00e9phane Foucart, V\u00ednculos problem\u00e1ticos entre investigaci\u00f3n p\u00fablica y agroqu\u00edmicos<\/em>, LM<\/em>, 18 de junio de 2018.<\/p>","protected":false},"excerpt":{"rendered":" Por una mejor gobernanza europea de la Inteligencia Artificial. La Uni\u00f3n Europea quiere: una IA que d\u00e9 prioridad a las personas y los ciudadanos; tecnolog\u00edas fiables y, por tanto, dignas de confianza; poner estas tecnolog\u00edas al servicio de una sociedad...<\/p>","protected":false},"author":2,"featured_media":558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1,15],"tags":[],"class_list":["post-450","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nouvelles","category-publications"],"acf":[],"_links":{"self":[{"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/posts\/450","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/comments?post=450"}],"version-history":[{"count":0,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/posts\/450\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/media\/558"}],"wp:attachment":[{"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/media?parent=450"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/categories?post=450"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aepl.eu\/es\/wp-json\/wp\/v2\/tags?post=450"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u00a0 \u00a01. Coraje pol\u00edtico: no se puede complacer a todo el mundo<\/h3>\n
\n
Adaptar el sistema a los marcos normativos de la UE. <\/strong><\/h3>\n<\/li>\n<\/ol>\n
\n
La estrategia de la industria: dominar el tiempo. <\/strong><\/h3>\n<\/li>\n<\/ol>\n
\n
La necesidad de defender el principio de precauci\u00f3n. <\/strong><\/h3>\n<\/li>\n<\/ol>\n
\u00a0 \u00a0 5. Distinguir entre ciencia y tecnociencia.vii<\/sup><\/h3>\n
\n
Aprender de la experiencia en otros \u00e1mbitos de la innovaci\u00f3n tecnol\u00f3gica. <\/strong><\/h3>\n<\/li>\n<\/ol>\n
\n
Los requisitos de independencia y transparencia. <\/strong><\/h3>\n<\/li>\n<\/ol>\n
\n
Romper silos y ampliar el debate para incluir a otros actores.<\/strong><\/h3>\n<\/li>\n<\/ol>\n
Conclusi\u00f3n. <\/strong><\/h3>\n
\n