La IA dependerá puede ser un recurso para ampliar la libertad del ser humano o un instrumento de dominación. Por ello es fundamental la forma en que se regule y, en una primera iniciativa, la Comisión Europea ha establecido cuatro principios éticos: el principio de respeto de la autonomía humana, el de prevención del daño, el de equidad y el de explicabilidad. Pero, además, para su utilización en las decisiones jurídicas es preciso analizar en qué medida es capaz de comprender el contenido y alcance de los valores morales que todo ordenamiento protege, de problematizar y resolver de forma ponderada los conflictos entre principios y valores morales, y de comprender la cualidad de la equidad. Además, muchos estudios alertan de la existencia de sesgos en los programas de IA a los que se adjudica una labor tradicionalmente asignada a juristas. Actualmente, la protección de los derechos de las personas físicas frente a la IA se articula a través de la figura de la decisión individual automatizada, regulada en el Reglamento general de protección de datos. Pero, podría ser necesario ir más allá planteando una “reserva de humanidad”, que consistiría en la exclusión de la aplicación de la IA de ciertos ámbitos de decisión humana, habida cuenta de lo inapropiado de su uso en ellos.

Se analiza también la modelización del conocimiento jurídico, en la que cabe distinguir dos estrategias básicas: una en la que el conocimiento se formaliza mediante reglas, ontologías, etc., y otra que se basa en el aprendizaje automatizado (machine learning). La opacidad que caracteriza este último paradigma es uno de los principales problemas que plantea la IA. De hecho, en última instancia, una cuestión crucial será el papel que esta juegue finalmente respecto a la siempre presente opacidad del derecho, aumentándola o convirtiéndose en un factor de transparencia.