Noticias Economía

Google publica para todos el código de su herramienta de marca de agua para texto generado por IA Por Euronews

28.10.2024 15:16



LYNXMPEABT0MT M

La tecnología de Google (NASDAQ:) para poner marcas de agua a textos generados por inteligencia artificial (IA) ya está al alcance de todos. SynthID es una herramienta desarrollada por Google Deepmind, el laboratorio de la firma dedicado a la IA, y acaba de convertirse en código abierto. Funciona introduciendo ligeras modificaciones en el texto generado «introduciendo una firma estadística en el texto generado», según un artículo de publicado en Nature.

Estas firmas «son imperceptibles para los humanos», señalaba Google en un post del blog del gigante Big Tech dedicado a los desarrolladores. El proceso de marca de agua no ralentiza la generación y no necesita acceder al gran modelo de lenguaje (LLM), «que a menudo es propietario», señalaba el artículo de Nature.

«Ahora, otros desarrolladores de IA [generativa] podrán utilizar esta tecnología para ayudarles a detectar si las salidas de texto proceden de sus propios [LLM], lo que facilitará que más desarrolladores construyan IA de forma responsable», declaró Pushmeet Kohli, vicepresidente de investigación de Google DeepMind, a MIT Technology Review.

La empresa realizó una prueba de su herramienta de marcas de agua a través de su chatbot Gemini. Analizaron aproximadamente 20 millones de respuestas con y sin marca de agua del chat y no observaron diferencias estadísticamente significativas en las respuestas en cuanto a su calidad.

El algoritmo está actualmente desplegado en Gemini y Gemini Advanced porque «existe la preocupación de que pueda contribuir a problemas de desinformación y atribución errónea», señala la entrada del blog. «La marca de agua es una técnica para mitigar estos impactos potenciales».

Related

Según los investigadores, ofrece «una detectabilidad superior a la de los métodos existentes», como analizar lo variado y heterogéneo que es un texto para determinar si ha sido generado por un modelo lingüístico o por un humano. Este es el método utilizado, por ejemplo, por GPTZero, pero puede dar lugar a falsos positivos y negativos.

Sin embargo, ni siquiera SynthID-text es un método infalible y la puntuación tiende a bajar si el texto «se reescribe a fondo o se traduce a otro idioma». Deepmind también ha desarrollado herramientas para marcar imágenes y vídeos generados por IA incrustando una marca de agua digital directamente en los píxeles de una imagen o en cada fotograma de un vídeo invisible al ojo humano. La marca de agua se hizo resistente a las manipulaciones habituales de imágenes y vídeos, como el recorte, el cambio de tamaño, la compresión y la adición de filtros.





Source link

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
bitcoin
Bitcoin (BTC) $ 71,869.26 4.89%
ethereum
Ethereum (ETH) $ 2,631.08 4.81%
tether
Tether (USDT) $ 0.999649 0.02%
bnb
BNB (BNB) $ 608.34 2.89%
solana
Solana (SOL) $ 179.50 2.90%
usd-coin
USDC (USDC) $ 0.999657 0.03%
xrp
XRP (XRP) $ 0.524525 1.83%
staked-ether
Lido Staked Ether (STETH) $ 2,628.98 4.80%
dogecoin
Dogecoin (DOGE) $ 0.168950 14.23%
tron
TRON (TRX) $ 0.165504 1.19%
the-open-network
Toncoin (TON) $ 5.03 0.49%
cardano
Cardano (ADA) $ 0.348202 3.81%
wrapped-steth
Wrapped stETH (WSTETH) $ 3,111.20 4.89%
shiba-inu
Shiba Inu (SHIB) $ 0.000019 9.92%
avalanche-2
Avalanche (AVAX) $ 26.53 2.98%
wrapped-bitcoin
Wrapped Bitcoin (WBTC) $ 71,813.24 5.06%
weth
WETH (WETH) $ 2,631.05 4.77%
bitcoin-cash
Bitcoin Cash (BCH) $ 383.12 6.13%
chainlink
Chainlink (LINK) $ 11.50 5.73%
polkadot
Polkadot (DOT) $ 4.15 2.15%
leo-token
LEO Token (LEO) $ 6.10 1.98%
usds
USDS (USDS) $ 0.995069 1.18%
sui
Sui (SUI) $ 2.00 21.52%
litecoin
Litecoin (LTC) $ 72.75 4.02%
near
NEAR Protocol (NEAR) $ 4.45 6.82%
aptos
Aptos (APT) $ 9.95 12.32%
wrapped-eeth
Wrapped eETH (WEETH) $ 2,764.89 4.78%
uniswap
Uniswap (UNI) $ 7.80 3.83%
pepe
Pepe (PEPE) $ 0.000010 10.54%
bittensor
Bittensor (TAO) $ 545.66 7.37%
internet-computer
Internet Computer (ICP) $ 8.07 4.57%
fetch-ai
Artificial Superintelligence Alliance (FET) $ 1.33 9.12%
dai
Dai (DAI) $ 0.999989 0.01%
monero
Monero (XMR) $ 165.07 2.56%
ethereum-classic
Ethereum Classic (ETC) $ 19.24 3.99%
kaspa
Kaspa (KAS) $ 0.114596 2.23%
stellar
Stellar (XLM) $ 0.095876 2.62%
blockstack
Stacks (STX) $ 1.86 9.03%
whitebit
WhiteBIT Coin (WBT) $ 19.04 2.73%
ethena-usde
Ethena USDe (USDE) $ 1.00 0.24%
dogwifcoin
dogwifhat (WIF) $ 2.61 11.68%
first-digital-usd
First Digital USD (FDUSD) $ 0.998713 0.02%
polygon-ecosystem-token
POL (ex-MATIC) (POL) $ 0.333306 3.99%
okb
OKB (OKB) $ 39.48 1.49%
immutable-x
Immutable (IMX) $ 1.40 7.19%
aave
Aave (AAVE) $ 150.80 0.57%
filecoin
Filecoin (FIL) $ 3.66 3.18%
arbitrum
Arbitrum (ARB) $ 0.538633 5.28%
optimism
Optimism (OP) $ 1.69 8.72%
thorchain
THORChain (RUNE) $ 6.18 10.67%