Entidades algorítmicas

Las entidades algorítmicas se refieren a algoritmos autónomos que operan sin control ni interferencia humana. Recientemente, se ha prestado atención a la idea de otorgar personalidad jurídica (parcial o total) a las entidades algorítmicas . El profesor Shawn Bayern ^{[ 1 ] [ 2 ]} y la profesora Lynn M. LoPucki ^{[ 3 ]} popularizaron, a través de sus trabajos, la idea de que las entidades algorítmicas obtengan personalidad jurídica y los derechos y obligaciones que conlleva.

Académicos y políticos han estado debatiendo durante los últimos años sobre la posibilidad de que un algoritmo o una IA adquiera personalidad jurídica. En la mayoría de los países, la ley solo reconoce personas físicas o reales y personas jurídicas . El argumento principal es que detrás de cada persona jurídica (o conjunto de personas jurídicas) existe, en última instancia, una persona física. ^{[ 4 ]}

En algunos países se han hecho excepciones a esto, como la concesión de personalidad jurídica ambiental a ríos, cascadas, bosques y montañas. En el pasado, también existía algún tipo de personalidad jurídica para ciertas construcciones religiosas, como iglesias y templos. ^{[ 5 ]}

Algunos países —aunque con fines publicitarios— han mostrado disposición a otorgar (alguna forma de) personalidad jurídica a los robots . El 27 de octubre de 2017, Arabia Saudita se convirtió en el primer país del mundo en otorgar la ciudadanía a un robot al concederle un pasaporte a "Sophia" . Ese mismo año, se otorgó la residencia oficial a un chatbot llamado "Shibuya Mirai" en Tokio, Japón. ^{[ 6 ]}

El consenso general es que la IA, en cualquier caso, no puede considerarse una persona natural o real, y que otorgarle personalidad jurídica en esta etapa resulta indeseable desde el punto de vista social. Sin embargo, los debates académicos y públicos continúan a medida que el software de IA se vuelve más sofisticado y las empresas implementan cada vez más la inteligencia artificial para brindar asistencia en todos los aspectos de los negocios y la sociedad. Esto lleva a algunos académicos a preguntarse si se debería otorgar personalidad jurídica a la IA, ya que no es descabellado pensar que algún día exista un algoritmo sofisticado capaz de gestionar una empresa de forma completamente independiente de la intervención humana. ^{[ 6 ]}

Brown argumenta que la cuestión de si se le puede otorgar personalidad jurídica a la IA está directamente ligada a la cuestión de si se le puede o se le debe permitir a la IA poseer propiedad legal. ^{[ 7 ]} Brown “concluye que la personalidad jurídica es el mejor enfoque para que la IA posea propiedad personal”. ^{[ 8 ]} Esta es una cuestión especialmente importante, ya que muchos académicos ya reconocen que la IA posee y controla algunos activos digitales o incluso datos. La IA también puede crear texto escrito, fotos, arte e incluso algoritmos, aunque la propiedad de estas obras no se le otorga actualmente a la IA en ningún país porque no se la reconoce como persona jurídica.

Bayern (2016) sostiene que esto ya es posible actualmente bajo la ley estadounidense. Afirma que, en Estados Unidos, crear una empresa controlada por IA sin interferencia ni propiedad humana ya es posible bajo la legislación vigente mediante la creación de una “LLC de cero miembros”:

(1) Un miembro individual crea una LLC administrada por sus miembros, presentando la documentación correspondiente ante el estado; (2) El individuo (junto, posiblemente, con la LLC, que es controlada por el único miembro) celebra un acuerdo operativo que rige la conducta de la LLC; (3) El acuerdo operativo especifica que la LLC tomará acciones según lo determine un sistema autónomo, especificando los términos o condiciones que sean apropiados para lograr los objetivos legales de dicho sistema; (4) El único miembro se retira de la LLC, dejando a la LLC sin ningún miembro. El resultado es potencialmente una LLC perpetua —una nueva persona jurídica— que no requiere la intervención continua de ninguna persona jurídica preexistente para mantener su estatus. ^{[ 1 ]}

Sherer (2018) argumenta —tras realizar un análisis de la(s) ley(es) de LLC de Nueva York (y de otros estados), la Ley Uniforme Revisada de Sociedades de Responsabilidad Limitada (RULLCA) y la jurisprudencia estadounidense sobre los fundamentos de la personalidad jurídica— que esta opción no es viable, pero coincide con Bayern en la existencia de una «laguna legal» mediante la cual un sistema de IA podría «controlar efectivamente una LLC y, por lo tanto, tener el equivalente funcional de la personalidad jurídica». ^{[ 9 ]} La laguna legal de Bayern de «propiedad cruzada de entidades» funcionaría de la siguiente manera:

(1) La persona existente P establece las sociedades de responsabilidad limitada A y B, gestionadas por sus miembros, con acuerdos operativos idénticos que estipulan que la entidad está controlada por un sistema autónomo que no es una persona jurídica preexistente; (2) P hace que A sea admitida como miembro de B y que B sea admitida como miembro de A; (3) P se retira de ambas entidades. ^{[ 10 ]}

A diferencia de una LLC sin miembros, la propiedad cruzada de la entidad no daría lugar a una respuesta legal por tener una entidad sin miembros, ya que lo que queda son dos entidades, cada una con un miembro. En las corporaciones, este tipo de situaciones suele estar prevenida por disposiciones formales en los estatutos (principalmente en lo que respecta a los derechos de voto de las acciones); sin embargo, tales limitaciones no parecen aplicarse a las LLC, ya que son más flexibles en cuanto a la organización y el control. ^{[ 10 ]}

En Europa, algunos académicos de diferentes países han comenzado a analizar las posibilidades en sus respectivas jurisdicciones. Bayern et al. (2017) compararon el Reino Unido, Alemania y Suiza con los hallazgos de Bayern (2016) para Estados Unidos, con el fin de determinar si existen también allí lagunas legales que permitan establecer una entidad algorítmica. ^{[ 10 ]}

Algunas jurisdicciones más pequeñas están yendo más allá y adaptando sus leyes a los cambios tecnológicos del siglo XXI. Guernsey ha otorgado derechos (limitados) a agentes electrónicos ^{[ 11 ]} y Malta está trabajando actualmente en la creación de una prueba de ciudadanía robótica. ^{[ 12 ]}

Si bien es improbable que la UE permita que la IA reciba personalidad jurídica en este momento, el Parlamento Europeo solicitó a la Comisión Europea en una resolución de febrero de 2017 que “cree un estatus jurídico específico para los robots a largo plazo, de modo que al menos los robots autónomos más sofisticados puedan ser reconocidos como personas electrónicas responsables de reparar cualquier daño que puedan causar, y posiblemente aplicar la personalidad electrónica a los casos en que los robots tomen decisiones autónomas o interactúen de otro modo con terceros de forma independiente”. ^{[ 13 ]}

No todos los organismos supranacionales europeos estuvieron de acuerdo, ya que el Comité Económico y Social Europeo emitió, por iniciativa propia, una opinión contraria en mayo de 2017: «El CESE se opone a cualquier forma de estatus jurídico para los robots o la IA (sistemas), puesto que esto conlleva un riesgo inaceptable de riesgo moral . El derecho de responsabilidad se basa en una función preventiva y correctora del comportamiento, que puede desaparecer en cuanto el fabricante deja de asumir el riesgo de responsabilidad, puesto que este se transfiere al robot (o al sistema de IA). Existe también el riesgo de un uso inapropiado y un abuso de este tipo de estatus jurídico». ^{[ 14 ]}

En respuesta a la solicitud del Parlamento Europeo, la Comisión Europea creó un Grupo de Expertos de Alto Nivel para abordar cuestiones y tomar la iniciativa en varios temas relacionados con la automatización, la robótica y la IA. El Grupo de Expertos de Alto Nivel publicó un borrador de documento para directrices éticas de IA ^{[ 15 ]} y un documento que define la IA en diciembre de 2018. ^{[ 16 ]} El documento sobre directrices éticas se abrió a consulta y recibió una amplia retroalimentación. ^{[ 17 ]} La ​​Comisión Europea está adoptando un enfoque cuidadoso al legislar sobre IA, haciendo hincapié en la ética, pero al mismo tiempo, dado que la UE está rezagada en investigación de IA con respecto a Estados Unidos y China, se centra en cómo reducir la brecha con los competidores mediante la creación de un marco regulatorio más atractivo para la investigación y el desarrollo de la IA . ^{[ 18 ]} Otorgar personalidad jurídica (limitada) a la IA o incluso permitir ciertas formas de entidades algorítmicas podría crear una ventaja adicional. ^{[ 19 ]}