New York City investerte i egen KI-chatbot for å hjelpe lokale bedrifter. Chatboten oppfordrer nå til lovbrudd og gir ukorrekt informasjon.
MyCity Chatbot
For New York Citys ordfører, Eric Adams, har det ligget mye prestisje i lanseringen av MyCity Chatbot. Adams har lenge forsvart bruk av ny teknologi, lik den mislykkede politiroboten som ble plassert på Time Square i 2023.
New York har samtidig vært begeistret for hvordan kunstig intelligens kan inkorporeres i samfunnet. Blant annet har byens skoler tatt til ordet for at ChatGPT aktivt skal tas med i undervisning.
Adams må nå forsvare MyCity Chatbot, en chatbot drevet at kunstig intelligens som er designet til å hjelpe byens bedriftseiere. Chatboten har, som tidskiftet The Markup først meldte, begynt å gi råd som er både feil og ulovlig.
I undersøkelser har chatboten også oppgitt svar som grenser til det bizarre. På spørsmål om en restaurant har lov til å servere ost som en rotte har gnagd på svarte chatboten at det var lov, så lenge det var registrert hvor skadet osten var.
MyCity Chatbot har videre forklart at det er lov å si opp ansatte som klager på seksuell trakassering og at bedrifter har lov til å betale under minstelønn.
Les også: Teslas «Robotaxi» skal vises frem 8. august
«Mye er galt, og det må fikses»
På en pressekonferanse sist uke var Eric Adams tydelig på at det er klare feil i MyCity Chatbot, men at prosjektet ikke har vært forgjeves.
Adams hevder at dette er vanlig med slik ny teknologi og at han stoler på at Microsoft og Azure AI service, som utviklet chatboten, skal klare å rette opp i feilene.
På sikt vil de nye systemene klare hva det opprinnelig skulle: kutte byråkrati og være tilgengelig for alle byens innbyggere.
