Istället för standardbild-alt-text som ger grundläggande beskrivningar, som “kvinna med blont hår som ser glad ut”, kunde ChatGPT tillhandahålla betydande detaljer som “kvinna i mörkblå skjorta, ta en selfie i en fullängdsspegel.”
Mosen kunde också ställa uppföljningsfrågor till AI-verktyget, som vilken typ av skor kvinnan hade på sig och vad mer som kunde ses i spegelns reflektion.
Men till stor besvikelse återkallades Mosens och andra tidiga användares tillgång till denna information nyligen, med människors ansikten som blev mörka av integritetsskäl. Flytten speglar en bredare oro som OpenAI har för att släppa något med så stor kraft.
Den visuella analysförmågan hos ChatGPT är produkten av en samarbete med danska startupen Be My Eyes (BME). BME-tekniken har funnits sedan 2012 och används av en gemenskap med över 250 miljoner människor som är blinda eller har nedsatt syn.
Det fungerar genom att koppla samman användare med volontärer för att hjälpa till att identifiera produkter eller navigera genom uppgifter. Syftet med ChatGPT-partnerskapet är att ersätta den mänskliga volontären med en virtuell.
OpenAI “utreder” fortfarande säkerhetsproblem
OpenAI-policyforskaren Sandhini Agarwal har följt chatbotens framsteg och klargjort att den kan identifiera offentliga personer, till exempel de med en Wikipedia-sida. Men hänvisar till chatbots ökända “hallucinationer” som ett potentiellt hinder.
“Om du ger den en bild av någon på tröskeln till att bli känd, kan det hallucinera ett namn. Som att om jag ger den en bild av en berömd teknisk VD, kan det ge mig ett annat VD:s namn.” – Sandhini Agarwal, Open AI Policy Researcher
OpenAI har uttryckt oro för att verktyget kan säga saker om människors ansikten som ger osäkra bedömningar, såsom deras kön eller känslomässiga tillstånd.
Denna funktion skulle anses vara den första i sitt slag med hänsyn till vad som allmänt anses acceptabelt från amerikanska teknikföretag. Mer än så kan det orsaka juridiska problem i områden som Europa, som kräver medborgarnas samtycke för att använda deras biometriska data.
Agarwal erkände det trots mjukvara för ansiktsigenkänning för kändisar redan existerande erbjuder verktygen en opt-out-funktion för dem som inte vill bli igenkända. Det sägs att OpenAI överväger samma tillvägagångssätt, samtidigt som man tar reda på hur man åtgärdar andra säkerhetsproblem innan verktyget släpps.
Läs vår djupgående guide till ChatGPT-alternativ
