Se ha derramado mucha tinta sobre la naturaleza de la caja negra de los sistemas de IA, y eso nos hace sentir incómodos porque a menudo no podemos entender por qué toman las decisiones que toman. A medida que los algoritmos han llegado a mediar todo, desde nuestras interacciones sociales y culturales a las interacciones económicas y políticas, los científicos informáticos han tratado de responder a las crecientes demandas de explicabilidad mediante el desarrollo de métodos técnicos para comprender sus comportamientos.

Pero un grupo de investigadores de la academia y la industria ahora está argumentando que no necesitamos penetrar en estas cajas negras para entender, y así controlar, su efecto en nuestras vidas. Después de todo, estas no son las primeras cajas negras inescrutables que hemos encontrado.

“Hemos desarrollado métodos científicos para estudiar cajas negras durante cientos de años, pero estos métodos se han aplicado principalmente a [living beings] hasta este punto ", dice Nick Obradovich, investigador del MIT Media Lab y coautor de un nuevo artículo publicado la semana pasada en Nature . "Podemos aprovechar muchas de las mismas herramientas para estudiar los nuevos sistemas de caja negra de AI".

Los autores del artículo, un grupo diverso de investigadores de la industria y la academia, proponen crear una nueva disciplina académica llamada "comportamiento de la máquina". aborda el estudio de los sistemas de IA de la misma manera que siempre hemos estudiado los animales y los humanos: a través de la observación empírica y la experimentación.

En este así como un maquinista es para un científico en computación lo que un científico social es para un neurocientífico. El primero busca comprender cómo se comporta un agente, ya sea artificial o biológico, en su hábitat, cuando coexiste en grupos y cuando interactúa con otros agentes inteligentes. Este último busca analizar la mecánica de toma de decisiones detrás de esos comportamientos.

"Estamos viendo el surgimiento de máquinas con agencia, máquinas que son actores que toman decisiones y toman acciones de manera autónoma", Iyad Rahwan, otro investigador y director de Media Lab. El autor del artículo, dijo en un blog post que acompaña a la publicación. Por lo tanto, deben estudiarse "como una nueva clase de actores con sus propios patrones de comportamiento y ecología".

Esto no significa sugerir que los sistemas de inteligencia artificial han desarrollado algún tipo de libre albedrío. (Ciertamente no; solo son modelos matemáticos glorificados .) Pero tiene el propósito de dejar de ver los sistemas de inteligencia artificial como herramientas pasivas que se pueden evaluar únicamente a través de su arquitectura técnica, rendimiento y capacidades. En su lugar, deberían considerarse actores activos que cambian e influyen en sus entornos y en las personas y máquinas que los rodean.

Entonces, ¿cómo sería esto? Un conductista de la máquina podría interrogar, por ejemplo, el impacto de los asistentes de voz en el desarrollo de la personalidad de un niño. O podrían examinar cómo los algoritmos de citas en línea han cambiado la forma en que las personas se encuentran y se enamoran. En última instancia, estudiarían las propiedades emergentes que surgen de muchos seres humanos y máquinas que coexisten y colaboran entre sí.

"Todos somos un sistema gigante humano-máquina", dice Obradovich. "Tenemos que reconocerlo y comenzar a estudiarlo de esa manera".

Es importante tener en cuenta que la mayoría de estas ideas no son nuevas. Los robotistas, por ejemplo, han estudiado durante mucho tiempo la interacción humano-computadora. Y el campo de la ciencia, la tecnología y la sociedad tiene lo que se conoce como la "teoría de la red de actores", un marco para describir todo en los mundos social y natural, tanto los humanos como los algoritmos, como actores que de alguna manera se relacionan entre sí. Pero en su mayor parte, cada uno de estos esfuerzos se ha aislado en disciplinas separadas. Reunirlos en un solo paraguas ayuda a alinear sus objetivos, formalizar un lenguaje común y fomentar las colaboraciones interdisciplinarias. "Nos ayudará a encontrarnos unos a otros", dice Obradovich.

A pesar de estar en una disciplina distinta a la de los investigadores de IA, los conductistas de máquinas deberían trabajar estrechamente con ellos. A medida que los últimos descubren nuevas formas en que los sistemas de inteligencia artificial se comportan y afectan a las personas, los primeros pueden aplicar esos aprendizajes a los diseños del sistema. Cuanto más pueda aprovechar cada disciplina la experiencia de la otra, más podrán asegurarse de que los agentes artificiales beneficien a los humanos en lugar de perjudicarlos.

"Necesitamos la experiencia de científicos de todas las disciplinas conductuales y computacionales", dijo Obradovich. dice. "Descubrir cómo vivir con máquinas es un problema demasiado grande para que una sola disciplina pueda resolverlo solo".

READ MORE – CLICK HERE

www.Down.co.ve

from Down.co.ve http://bit.ly/2IQMCwT
via www.Down.co.ve