Redigerer Generativ kunstig intelligens (avsnitt)

=== Skjevhet i forhold til etnisitet og kjønn ===
Generative KI-modeller kan reflektere og forsterke kulturell skjevhet som framkommer i underliggende data. For eksempel, så kan en språkmodell anta at doktorer og dommere er menn, mens sekretærer og sykepleiere er kvinner, om disse idéene er vanlige i treningsdataen.<ref>{{cite web|url=https://news.mit.edu/2023/large-language-models-are-biased-can-logic-help-save-them-0303|title=Large language models are biased. Can logic help save them?|author=Rachel Gordon|work=MIT CSAIL|date=3. mar. 2023|access-date=2024-01-26|archive-date=23. jan. 2024|archive-url=https://web.archive.org/web/20240123103540/https://news.mit.edu/2023/large-language-models-are-biased-can-logic-help-save-them-0303|url-status=live}}</ref> I lignende tilfeller kan en bildemodell som kommanderes med «et bilde av en daglig leder» uforholdsmessig generere bilder av hvite, mannlige daglige ledere,<ref>{{cite web|title=Reducing bias and improving safety in DALL·E 2|url=https://openai.com/blog/reducing-bias-and-improving-safety-in-dall-e-2|publisher=OpenAI|author=OpenAI|date=2022-07-18|accessdate=2024-01-26|archive-date=26. jan. 2024|archive-url=https://web.archive.org/web/20240126195631/https://openai.com/blog/reducing-bias-and-improving-safety-in-dall-e-2|url-status=live}}</ref> om den er trent på et datasett med etnisitetsskjevhet. Det er forsøkt flere metoder for å unngå skjevhet, som ved å skifte inndatakommandoer<ref>{{cite web|url=https://www.nbcnews.com/tech/tech-news/no-quick-fix-openais-dalle-2-illustrated-challenges-bias-ai-rcna39918|title=No quick fix: How OpenAI's DALL·E 2 illustrated the challenges of bias in AI|author=Jake Traylor|date=27. jul. 2022|website=NBC News|access-date=2024-01-26|archive-date=26. jan. 2024|archive-url=https://web.archive.org/web/20240126195631/https://www.nbcnews.com/tech/tech-news/no-quick-fix-openais-dalle-2-illustrated-challenges-bias-ai-rcna39918|url-status=live}}</ref> og omvekting av treningsdata.<ref name="DALL-E2-mitigations">{{cite web|title=DALL·E 2 pre-training mitigations|url=https://openai.com/research/dall-e-2-pre-training-mitigations|website=OpenAI|date=2022-06-28|access-date=2024-01-26|archive-date=26. jan. 2024|archive-url=https://web.archive.org/web/20240126195631/https://openai.com/research/dall-e-2-pre-training-mitigations|url-status=live}}</ref>