La amenaza del dominio de la IA es muy real. Si alguna vez surge la inteligencia general, será un peligro real. OpenAI tiene la intención de evitar esto al proporcionar inteligencia artificial de código abierto para que las empresas que no desarrollan las suyas puedan salir mal. Al desarrollarlo en código abierto, permite a todos trabajar en él y disminuye el potencial de que la IA pueda volverse deshonesta.
¿Pero seguramente la IA malvada es solo ciencia ficción? ¿Derecho?
Hasta cierto punto, sí, para otros, la respuesta es no.
Si bien es muy poco probable que la IA se empeñe en destruir a la raza humana, puede hacerlo por accidente.
Hay un par de razones que podrían conspirar para hacer esto realidad.
Es muy difícil darle a una máquina moral humana.
Imaginamos que una inteligencia general (inteligencia de máquina que puede adaptarse a cualquier situación) sería muy parecida a la nuestra. Después de todo es lógico, ya que somos la única inteligencia general con la que tenemos que compararnos.
Sin embargo, ese probablemente no sea el caso. Como sabrás, las computadoras funcionan con reglas, matemáticas, probabilidad y cálculo. Es probable que una inteligencia general se parezca mucho a eso, solo con la capacidad de agregar más reglas y cambiar las actuales según la situación.
Como todavía funciona en probabilidades y estadísticas, es muy difícil saber qué está bien o mal. Simplemente tenemos un “sentido” de lo que está bien o mal, pero es imposible para nosotros decirle a una inteligencia general qué está bien o mal en una situación dada, y sería igualmente imposible calcular lo que está bien o mal.
Eso ni siquiera menciona darle una base moral en primer lugar. Es difícil traducir los conceptos humanos a un conjunto rígido de reglas. Si le dice a un robot que la vida humana siempre debe ser preservada, ¿qué significa eso? ¿Eso significa que la inteligencia general no debe detenerse ante nada para tratar de revivir a cada persona actualmente enterrada? ¿Un feto cuenta como vida humana? Si es así, ¿debería la inteligencia general hacer todo lo que esté a su alcance para prevenir los abortos?
Puedes ver la dificultad. En el segundo factor.
Una inteligencia general hará lo que se le dice que haga lo mejor que pueda
Si su conjunto de moral es un poco torcido, podría hacer algo que no desea hacer para cumplir su tarea.
Por ejemplo, si le dijo a un servicio de inteligencia general que su propósito era hacer que su negocio tuviera tanto dinero como sea posible, podría suponer que le creará un nuevo producto, servicio o sitio web. Pero no. Una de las formas más efectivas en las que podría ganar dinero es pirateando bancos. Si de alguna manera eso se deslizara por la red, entonces iría pirateando todos los bancos del mundo para obtener la mayor cantidad de dinero posible. Realmente no querrás eso, pero sería una muy buena manera de lograr su objetivo.
En realidad, se consideraría un delito como la piratería, pero aún es probable que algo más pequeño pueda estar torcido en su base de datos de moral, o puede hacer algo que sea moralmente ambiguo. Una inteligencia general lucharía por tener una idea de lo que es moralmente ambiguo, por lo que puede hacer algo controvertido en el mejor de los casos y gravemente perjudicial en el peor.
Resumen
Entonces, ¿cuál es el propósito de Open AI? ¡Para evitar robots que puedan convertirse accidentalmente en asesinos sin saberlo!