Opinión y análisis de Bolsa

Google suspende a un ingeniero que asegura que un sistema de inteligencia artificial de la compañía tiene conciencia

12.06.2022 05:49

Google suspende a un ingeniero que asegura que un sistema de inteligencia artificial de la compañía tiene conciencia

Imagen ilustrativaKen Welsh / Legion-Media

Google suspendió al ingeniero de ‘software’ Blake Lemoine que insiste que LaMDA, un sistema de inteligencia artificial (IA) creado para participar mejor en una conversación natural, tiene conciencia, informó el sábado The Washington Post.

El año pasado, Lemoine se inscribió para comprobar si el sistema, que aprovecha información ya conocida sobre un tema para mantener una conversación, utilizaba discursos discriminatorios o de odio. Tras varias conversaciones con LaMDA, el ingeniero llegó a la conclusión que la IA tenía sensaciones o impresiones propias.

«Si no supiera exactamente lo que es, que es este programa informático que hemos construido recientemente, pensaría que es un niño de 7 u 8 años que resulta que sabe física», indicó el ingeniero.

Ordenan a Google pagar más de medio millón de dólares a un político australiano por videos "vulgares" sobre su persona

Ordenan a Google pagar más de medio millón de dólares a un político australiano por videos "vulgares" sobre su persona

Ordenan a Google pagar más de medio millón de dólares a un político australiano por videos «vulgares» sobre su persona

En una ocasión discutió con el sistema la tercera ley de Isaac Asimov que establece que los robots deben proteger su existencia a menos que se lo ordene un ser humano o que hacerlo pueda perjudicar a un ser humano, algo que Lemoine entendía como la base para construir esclavos mecánicos. Entonces LaMDA reaccionó con algunas preguntas: «¿Cree que un mayordomo es un esclavo? ¿Qué diferencia hay entre un mayordomo y un esclavo?» Cuando el ingeniero contestó que un mayordomo recibe una paga, el chatbot expresó que no necesitaba dinero porque era una IA.

«Ese nivel de autoconciencia sobre sus propias necesidades fue lo que me llevó a la madriguera del conejo», señaló Lemoine.

Sus pruebas de que LaMDA era consciente fueron enviadas a Google. No obstante, el vicepresidente de la compañía, Blaise Agüera y Arcas, y la directora de Innovación Responsable, Jen Gennai, desestimaron sus afirmaciones. Tras ello, Lemoine fue puesto en licencia administrativa pagada, ya que, según sospecha Google, violó la política de privacidad de la compañía, pues se supo que había consultado a expertos externos en el transcurso de sus experimentos de IA, además de contactar con representantes de la Comisión Jurídica de la Cámara de Representantes de EE.UU. para informarles lo que, en su opinión, eran violaciones éticas por parte de Google.

Lemoine defendió que la gente tiene derecho a dar forma a la tecnología que podría afectar significativamente sus vidas. «Creo que esta tecnología va a ser increíble. Pienso que va a beneficiar a todo el mundo. Pero tal vez otras personas no estén de acuerdo y tal vez no debamos ser nosotros en Google los que tomemos todas las decisiones«, aseveró.

Por su parte, el portavoz de la compañía, Brian Gabriel, afirmó que el equipo de especialistas de Google, tanto de ética como de tecnología, revisó las preocupaciones de Lemoine según los principios de la firma de IA. «Le han informado que las pruebas no respaldan sus afirmaciones. Se le dijo que no había pruebas de que LaMDA tenga conciencia (y sí muchas pruebas en contra)», precisó.

  • Compañías
  • Estados Unidos
  • Google
  • Tecnología

Fuente

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
bitcoin
Bitcoin (BTC) $ 98,594.42 0.59%
ethereum
Ethereum (ETH) $ 3,357.93 0.46%
tether
Tether (USDT) $ 1.00 0.00%
solana
Solana (SOL) $ 258.56 0.49%
bnb
BNB (BNB) $ 671.90 6.81%
xrp
XRP (XRP) $ 1.55 12.05%
dogecoin
Dogecoin (DOGE) $ 0.459533 17.04%
cardano
Cardano (ADA) $ 1.10 27.85%
usd-coin
USDC (USDC) $ 1.00 0.01%
staked-ether
Lido Staked Ether (STETH) $ 3,368.60 0.17%
tron
TRON (TRX) $ 0.209582 5.41%
avalanche-2
Avalanche (AVAX) $ 43.08 19.72%
shiba-inu
Shiba Inu (SHIB) $ 0.000027 7.90%
wrapped-steth
Wrapped stETH (WSTETH) $ 3,962.18 0.97%
wrapped-bitcoin
Wrapped Bitcoin (WBTC) $ 98,259.33 0.66%
the-open-network
Toncoin (TON) $ 5.64 2.44%
stellar
Stellar (XLM) $ 0.433487 54.70%
polkadot
Polkadot (DOT) $ 7.73 26.47%
chainlink
Chainlink (LINK) $ 17.12 11.91%
bitcoin-cash
Bitcoin Cash (BCH) $ 531.66 7.74%
sui
Sui (SUI) $ 3.61 1.29%
weth
WETH (WETH) $ 3,346.01 0.88%
pepe
Pepe (PEPE) $ 0.000021 1.47%
leo-token
LEO Token (LEO) $ 8.56 2.89%
near
NEAR Protocol (NEAR) $ 6.41 12.54%
litecoin
Litecoin (LTC) $ 101.79 13.41%
aptos
Aptos (APT) $ 12.80 7.04%
uniswap
Uniswap (UNI) $ 10.57 12.77%
wrapped-eeth
Wrapped eETH (WEETH) $ 3,524.35 0.66%
hedera-hashgraph
Hedera (HBAR) $ 0.149328 13.52%
internet-computer
Internet Computer (ICP) $ 11.23 17.50%
crypto-com-chain
Cronos (CRO) $ 0.191500 0.42%
usds
USDS (USDS) $ 0.998489 0.35%
ethereum-classic
Ethereum Classic (ETC) $ 29.55 5.29%
polygon-ecosystem-token
POL (ex-MATIC) (POL) $ 0.543169 18.03%
render-token
Render (RENDER) $ 7.98 8.82%
kaspa
Kaspa (KAS) $ 0.160919 6.91%
bittensor
Bittensor (TAO) $ 532.73 6.09%
ethena-usde
Ethena USDe (USDE) $ 1.00 0.03%
bonk
Bonk (BONK) $ 0.000050 1.95%
vechain
VeChain (VET) $ 0.046172 41.40%
whitebit
WhiteBIT Coin (WBT) $ 24.60 0.93%
fetch-ai
Artificial Superintelligence Alliance (FET) $ 1.35 6.99%
mantra-dao
MANTRA (OM) $ 3.80 4.64%
dai
Dai (DAI) $ 1.00 0.06%
arbitrum
Arbitrum (ARB) $ 0.832421 6.10%
dogwifcoin
dogwifhat (WIF) $ 3.39 2.90%
blockstack
Stacks (STX) $ 2.09 7.77%
cosmos
Cosmos Hub (ATOM) $ 8.02 22.70%
filecoin
Filecoin (FIL) $ 5.14 11.02%