🚀
Espacio Disponible
¡Publicite Aquí!
Aumente sus ventas llegando a miles de visitantes diarios.
Contactar Ahora
📢
Oportunidad
¡Anuncie Su Marca Aquí!
Posicione su negocio frente a nuestra audiencia activa y calificada.
✓ Alta visibilidad diaria
✓ Enlace directo a su web
✓ Reportes de clics mensuales
Montevideo
Uruguay
🌧️
11°C
Lluvias débiles
Mín: 9°C
Máx: 13°C
Humedad: 85%
📢
Oportunidad
¡Anuncie Su Marca Aquí!
Posicione su negocio frente a nuestra audiencia activa y calificada.
✓ Alta visibilidad diaria
✓ Enlace directo a su web
✓ Reportes de clics mensuales
🚀
Espacio Disponible
¡Publicite Aquí!
Aumente sus ventas llegando a miles de visitantes diarios.
Contactar Ahora

:Inteligencia Artificial:“La carrera peligrosa hacia modelos de caja negra”.

Apr 06, 2023
:Inteligencia Artificial:“La carrera peligrosa hacia modelos de caja negra”.

La Inteligencia artificial está surgiendo de nuestra vida. En este tiempo, debe importarnos el uso de estas nuevas tecnologías. 

Un grupo de notables de la industria informática, liderados por Elon Musk entre otros, ha solicitado mediante una carta pública la suspensión del “uso de los modelos de AI Generativa” durante un período de 6 meses con la intención de permitir a los gobiernos europeos finalizar las medidas regulatorias del sector.

The Artificial Intelligence Act, es una iniciativa europea de regulación de la Inteligencia Artificial (AI). De hecho, la primera y única existente en el mundo. La futura ley asigna a las aplicaciones de AI tres niveles de riesgo: 

*Riesgo Inaceptable:  como los sistemas de puntuación social motorizados por el reconocimiento del rostro de las personas utilizadas en China.

*Aplicaciones de alto:  como los sistemas de escaneo de CV, utilizados en búsquedas de riesgo laboral que suelen portar sesgos en sus modelos de funcionamiento.

*Aplicaciones no reguladas:  aquellas no listadas en las categorías anteriores.

La Inteligencia artificial está llegando a nuestra vida, dirigiendo nuestras acciones, prediciendo nuestras compras y personalizando avisos comerciales, participando de nuestros diagnósticos médicos, en nuestros tratamientos contra el cáncer o en el acceso a oportunidades de educación y ofertas laborales, formando nuestra reputación digital y más, mucho más. Cotidianamente el accionar de la Inteligencia Artificial está operando en nuestras vidas, en ocasiones con resultados mejorados o con efectos adversos. Es así como, viviendo en este tiempo, debe importarnos el uso de estas nuevas tecnologías.  

Por supuesto, todo intento de regulación debe ser considerado y estudiado de forma que evite alterar la libertad de las personas y los sistemas democráticos.

En este contexto, la carta dicha y apoyada por una personalidad como Elon Musk ha generado una alerta y un llamado de atención. Específicamente, menciona una: “La carrera peligrosa hacia modelos de caja negra”. Pero ¿Qué son estos modelos de caja negra? 

En informática una caja negra (o black-box en inglés) es un concepto básico del análisis de procesos y la programación que enseñamos en los colegios segundorios o en los primeros años de las carreras de grado. Se refiere a un módulo, objeto o componente de software que se puede utilizar sin necesidad de conocer su funcionamiento interno. Es decir, se sabe qué entrada espera y qué salida produce, pero no se tiene conocimiento del código o la lógica interna que se utiliza para producir la salida.

En IA el concepto toma mayor relevancia. En este caso, se emplea con el objetivo de predecir la salida a partir de una entrada, sin necesidad de entender cómo funciona internamente el modelo o qué procesamiento realiza. Es decir, el modelo recibe una entrada, realiza algún tipo de procesamiento interno y produce una salida, pero no se sabe exactamente cómo se produce. El funcionamiento interno del modelo es desconocido para el usuario y solo se tiene acceso a la entrada y la salida del modelo. A menudo, estos modelos se utilizan en áreas como el aprendizaje automático y el aprendizaje profundo, donde los modelos son muy complejos y tienen millones de parámetros que interactúan de maneras intrincadas para producir una salida.

Si bien los modelos de caja negra pueden ser muy útiles para la predicción, también tienen algunas limitaciones. En particular, pueden ser difíciles de interpretar, lo que significaría un problema en caso de que se necesite entender cómo se produjo una salida en particular. Además, pueden ser propensos a errores y sesgos ocultos que, para rematar, se vuelven difíciles de detectar sin conocer el funcionamiento interno del modelo.

Quienes trabajan en análisis de datos conocen la dificultad que conlleva el momento donde es necesario explicar (y hasta convencer) a un cliente de la validez y precisión de un resultado. Demostrar que el modelo de predicción utilizado, el algoritmo implementado, el juego de datos de entrenamiento y testeo proporcionados, son capaces de dar validez a los resultados alcanzados es trabajoso y que frecuentemente obliga una pequeña celebración.

Sin embargo, cuando usamos un modelo de inteligencia artificial de caja negra, los usuarios llanos aceptamos rápidamente los resultados. “Lo ha dicho Google”, solemos decir. Es sorprendente que ChatGPT tenga que explicar frecuentemente que como “modelo de lenguaje, no tengo una identidad propia ni una conciencia de mí mismo.”. ¿Por qué lo repite insistentemente? Tal vez porque las personas le damos una entidad que no tiene. Una especie de oráculo moderno, inteligente y artificial de Delfos. En definitiva, detenerse a evaluar las consecuencias tal vez sea intrínseco de la inteligencia humana. 

¿Qué es el modelo caja negra de aprendizaje automático?

En términos generales, la caja negra de inteligencia artificial se refiere a los modelos de inteligencia artificial que te dan un resultado o toman una decisión sin explicar o mostrar  cómo  lo hicieron. Los procesos internos utilizados y los múltiples factores ponderados permanecerán desconocidos. 

En otras palabras, hay una falta de transparencia en esta tecnología. Un modelo caja negra significa no humano, ni siquiera los programadores y administradores de la máquina o el algoritmo saben o entienden cómo se llegó al resultado. 

Solo el mismo algoritmo es consciente de exactamente cómo se tomaron las decisiones. 

¿Cómo funciona el modelo caja negra de aprendizaje automático?

La caja negra de inteligencia artificial en la prevención del fraude te otorga una puntuación de riesgo sin decirte o mostrarte cómo se logró esa puntuación. El usuario únicamente conoce el resultado de estos cálculos complejos.

Así que los datos se ingresan, y un resultado -puntuación de riesgo- se obtienen, pero no sabemos qué sucede mientras tanto. Por ello, no podemos ajustar o modificar estos procesos internos. 

En un sentido, esto significa que estamos a merced del algoritmo, ya que no estamos conscientes de qué informa la puntuación de riesgo que resulta.

1. En su forma más simple, la inteligencia artificial involucra alimentar grandes cantidades de datos ejemplares al algoritmo y dejarlo que aprenda por sí mismo.   

2. Siguiendo este “entrenamiento”, el modelo de inteligencia artificial está listo para recibir datos del mundo real, procesarlos y dar un resultado; en la detección de fraude, una puntuación de riesgo.

3. Mientras tanto, conforme reciba más y más información, escale su algoritmo, métodos y conocimiento con esta nueva información. 

¿Pero cómo lo hace exactamente? ¿Qué rol juega cada fragmento de información en el proceso que nos dio ese resultado?

Un sistema de caja negra no puede decírnoslo. En otras palabras, no podemos ver dentro de la caja que está pintada de negro, ni sabemos cómo funciona cada modelo de inteligencia artificial de caja engra. 

¿Por qué es importante el modelo de aprendizaje automático de caja negra?

A pesar de la inherente falta de transparencia, la inteligencia artificial caja negra es muy popular, y puede ser útil en ciertas configuraciones. De hecho, la mayoría de los modelos de inteligencia artificial en uso en 2021 y más son de caja negra.

La caja negra de inteligencia artificial hace uso de tecnología como:

  • Todos los grandes datos
  • Similitud de cuerdas
  • Aprendizaje profundo
  • redes neurales

Con la caja negra de inteligencia artificial, podemos responder a la pregunta “¿Cuál es la puntuación de riesgo de X?”, pero nunca seremos capaces de responder a la pregunta “¿Por qué el sistema piensa que esta es una puntuación de riesgo precisa ? para X? .

Si pudiéramos responder este “por qué” ,  el sistema automáticamente se clasificaría como un sistema de caja blanca de inteligencia artificial. 

¿Cómo ayuda el modelo de caja negra contra el fraude?

Como herramienta de combate al fraude, la caja negra de inteligencia artificial puede ayudarnos a averiguar conexiones y factores complejos.

  • Se basa en clasificaciones complejas basadas en la probabilidad, pero no hay transparencia, que sí la tiene en una solución whitebox.
  • Nos permite procesar más información de lo que es humanamente posible, y de forma rápida.
  • Es mejor que la caja blanca para atrapar intentos de fraude nuevos, únicos y sofisticados.

Sin embargo, también tiene sus  desventajas.

En la detección de fraude, usar exclusivamente una plataforma de inteligencia artificial caja negra significa que tú, el usuario, no estás completamente al tanto de sus maquinaciones internas, así que no puedes saber si funciona para ti y tus necesidades. Tampoco eres capaz de cambiar los parámetros y el árbol de decisiones que usa para tomar sus decisiones.

dependiendo de los requisitos, se considera ventajoso elegir soluciones whitebox donde sea posible, o incluso una combinación de ambas. 

¿Por qué elegir caja negra sobre caja blanca?

En la prevención y detección de fraude, la caja negra de inteligencia artificial ofrece ciertas ventajas:

  • Velocidad:  el sistema puede procesar grandes cantidades de datos y entregar resultados más rápidos que los humanos, así como resultados más rápidos que un sistema de caja blanca.
  • Utilización del big data:  los grandes conjuntos de datos operan bien en los sistemas de caja negra. 
  • Trabaja sin supervisión:  no hay necesidad de que los humanos modifiquen o aprueben las funciones internas del sistema y la forma en la que se llega a las decisiones. 
  • Puede identificar nuevos patrones:  los modelos de caja negra son más propensos a predecir y perfeccionar nuevos y únicos intentos de fraude sofisticados. 

Dicho esto, la mejor respuesta es que hay instancias en las que la caja negra es mejor, y otras donde el enfoque de caja blanca es ideal.

¿Existe un beneficio en tener algoritmos y cálculos transparentes (conocidos)? ¿O es aceptable que sean opacos, sólo necesario el resultado sin revelar exactamente cómo se obtuvo?

El modelo de caja negra significa que puedes ver el ingreso y el resultado, pero no sabes qué es lo que pasa a la mitad. En términos simples, la caja negra es inteligencia artificial  inexplicable .

Cuando la esencia es la velocidad y la precisión es secundaria, una solución caja negra puede ser recomendable. Las soluciones whitebox, por otro lado,  optan por la calidad (y precisión) sobre la cantidad. 

Claro que todo el inteligencia artificial permite reducir el tiempo invertido en revisar manualmente la información, y cada método tiene su propio uso. 

More in this category: USO DE LA INTELIGENCIA ARTIFICIAL ¿ES NECESARIA UNA REGULACIÓN? »
We use cookies to improve our website. By continuing to use this website, you are giving consent to cookies being used. More details…

Joomla! Debug Console

Session

Profile Information

Memory Usage

Database Queries