Sztuczna inteligencja - Historia wersji

Alma: /* Etyka */ śmiecenie w nauce

2025-05-14T20:00:59Z

Etyka: śmiecenie w nauce

← poprzednia wersja		Wersja z 20:00, 14 maj 2025
Linia 36:		Linia 36:
	=== Zakłócanie działania prawdziwych, przydatnych projektów ===		=== Zakłócanie działania prawdziwych, przydatnych projektów ===
	Liczne projekty tworzące wolne oprogramowanie zaczęły zgłaszać duże problemy z botami firm AI, których działalność wpływała negatywnie na działanie ich infrastruktury, spowalniając lub całkowicie blokując do nich dostęp. Jednocześnie dodając ludziom zaangażowanym w te projekty dużo dodatkowej pracy. Jedna z takich osób, zgłosiła że od 20% do 100% jej pracy w danym tygodniu jest przeznaczana na niwelowanie szkód związanych z botami. Obsługa ruchu tych botów jest też kosztowna. Wg jednego z adminów, blokada botów obniżyła ruch o 75%, przekładając się na 1,500$ oszczędności miesięcznie. Sysadmin GNOME podzielił się informacją, wg której oprogramowanie blokujące boty zatrzymało aż 97% ruchu. W niektórych przypadkach, admini byli zmuszeni czasowo całkowicie odciąć dostęp do niektórych podsieci, blokując też prawdziwych użytkowników, a nawet całe państwa. Boty generują też fałszywe raporty o błędach, zmuszając programistów do szukania przyczyn problemów, których nie da się odtworzyć, bo nie istnieją<ref>Niccolò Venerandi, ''[https://thelibre.news/foss-infrastructure-is-under-attack-by-ai-companies/ FOSS infrastructure is under attack by AI companies]'', thelibre.news</ref>.		Liczne projekty tworzące wolne oprogramowanie zaczęły zgłaszać duże problemy z botami firm AI, których działalność wpływała negatywnie na działanie ich infrastruktury, spowalniając lub całkowicie blokując do nich dostęp. Jednocześnie dodając ludziom zaangażowanym w te projekty dużo dodatkowej pracy. Jedna z takich osób, zgłosiła że od 20% do 100% jej pracy w danym tygodniu jest przeznaczana na niwelowanie szkód związanych z botami. Obsługa ruchu tych botów jest też kosztowna. Wg jednego z adminów, blokada botów obniżyła ruch o 75%, przekładając się na 1,500$ oszczędności miesięcznie. Sysadmin GNOME podzielił się informacją, wg której oprogramowanie blokujące boty zatrzymało aż 97% ruchu. W niektórych przypadkach, admini byli zmuszeni czasowo całkowicie odciąć dostęp do niektórych podsieci, blokując też prawdziwych użytkowników, a nawet całe państwa. Boty generują też fałszywe raporty o błędach, zmuszając programistów do szukania przyczyn problemów, których nie da się odtworzyć, bo nie istnieją<ref>Niccolò Venerandi, ''[https://thelibre.news/foss-infrastructure-is-under-attack-by-ai-companies/ FOSS infrastructure is under attack by AI companies]'', thelibre.news</ref>.

			=== Śmiecenie w nauce ===
			W świecie nauki zaczęło pojawiać się bardzo dużo prac zawierających błędy których raczej nie popełniłby człowiek, a które są typowe dla AI, jak na przykład użycie wyrażeń, które zupełnie nie mają sensu w kontekście w którym zostały użyte. Oznacza to, że prace te nie tylko z dyżum prawdopodobieństwem zostały przez AI ''wymyślone'', ale nie zostały nawet porządnie sprawdzone przez człowieka, który taki błąd by wyłapał. Inne prace opisują użycie nieistniejących technologii<ref>Uwaga! Naukowy Bełkot, ''[https://www.youtube.com/watch?v=2OLa1xVhTGk Nieistniejący mikroskop i 3 duże problemy ze współczesną nauką]'', YouTube</ref>.

	== Przypisy ==		== Przypisy ==

Alma: /* Etyka */ Zakłócanie działania prawdziwych, przydatnych projektów

2025-03-23T16:18:02Z

Etyka: Zakłócanie działania prawdziwych, przydatnych projektów

← poprzednia wersja		Wersja z 16:18, 23 mar 2025
Linia 33:		Linia 33:
	=== Profilowanie etniczne ===		=== Profilowanie etniczne ===
	Oprogramowanie chińskiej firmy Alibaba było w stanie rozpoznawać członków mniejszości Ujgurów – prześladowanych w Chinach<ref>Reuters, ''[https://www.reuters.com/article/us-alibaba-surveillance-idUSKBN28R0IR/ Alibaba facial recognition tech specifically picks out Uighur minority - report]''</ref>.		Oprogramowanie chińskiej firmy Alibaba było w stanie rozpoznawać członków mniejszości Ujgurów – prześladowanych w Chinach<ref>Reuters, ''[https://www.reuters.com/article/us-alibaba-surveillance-idUSKBN28R0IR/ Alibaba facial recognition tech specifically picks out Uighur minority - report]''</ref>.

			=== Zakłócanie działania prawdziwych, przydatnych projektów ===
			Liczne projekty tworzące wolne oprogramowanie zaczęły zgłaszać duże problemy z botami firm AI, których działalność wpływała negatywnie na działanie ich infrastruktury, spowalniając lub całkowicie blokując do nich dostęp. Jednocześnie dodając ludziom zaangażowanym w te projekty dużo dodatkowej pracy. Jedna z takich osób, zgłosiła że od 20% do 100% jej pracy w danym tygodniu jest przeznaczana na niwelowanie szkód związanych z botami. Obsługa ruchu tych botów jest też kosztowna. Wg jednego z adminów, blokada botów obniżyła ruch o 75%, przekładając się na 1,500$ oszczędności miesięcznie. Sysadmin GNOME podzielił się informacją, wg której oprogramowanie blokujące boty zatrzymało aż 97% ruchu. W niektórych przypadkach, admini byli zmuszeni czasowo całkowicie odciąć dostęp do niektórych podsieci, blokując też prawdziwych użytkowników, a nawet całe państwa. Boty generują też fałszywe raporty o błędach, zmuszając programistów do szukania przyczyn problemów, których nie da się odtworzyć, bo nie istnieją<ref>Niccolò Venerandi, ''[https://thelibre.news/foss-infrastructure-is-under-attack-by-ai-companies/ FOSS infrastructure is under attack by AI companies]'', thelibre.news</ref>.

	== Przypisy ==		== Przypisy ==

Alma: /* Zawodność */

2024-12-21T15:52:42Z

Zawodność

← poprzednia wersja		Wersja z 15:52, 21 gru 2024
Linia 22:		Linia 22:
	== Zawodność ==		== Zawodność ==
	Błędne wyniki i awaryjność są problemem wszelakiego oprogramowania. Jednak w wypadku SI, problemy te mogą być szczególnie widoczne, czy poprzez rodzaj problemów, do których są zaciągane, czy skalę samych błędów.		Błędne wyniki i awaryjność są problemem wszelakiego oprogramowania. Jednak w wypadku SI, problemy te mogą być szczególnie widoczne, czy poprzez rodzaj problemów, do których są zaciągane, czy skalę samych błędów.

			Podsumowanie powiadomień od Apple zawierały rażąco nieprawdziwe informacje<ref>Paweł Grabowski, ''[https://spidersweb.pl/2024/12/apple-intelligence-fake-news-bbc.html Apple tworzy fake newsy. Tak okropne, że zainterweniowało BBC]'', Spider's Web</ref>.

	W 2018 r. ACLU przeprowadziło test używając oprogramowania Amazonu do rozpoznawania twarzy, publiczne dostępnych zdjęć członków kongresu oraz 25,000 policyjnych zdjęć kryminalistów. 28 członków kongresu zostało nieprawidłowo rozpoznanych jako zatrzymani kryminaliści. Dodatkowo algorytm zauważalnie częściej popełniał błędy w przypadku osób niebiałych<ref>ACLU, ''[https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots]''</ref><ref>CNET, ''[https://www.cnet.com/news/privacy/amazon-facial-recognition-thinks-28-congressmen-look-like-known-criminals-at-default-settings/ Amazon facial recognition mistakenly confused 28 Congressmen with known criminals]''</ref>.		W 2018 r. ACLU przeprowadziło test używając oprogramowania Amazonu do rozpoznawania twarzy, publiczne dostępnych zdjęć członków kongresu oraz 25,000 policyjnych zdjęć kryminalistów. 28 członków kongresu zostało nieprawidłowo rozpoznanych jako zatrzymani kryminaliści. Dodatkowo algorytm zauważalnie częściej popełniał błędy w przypadku osób niebiałych<ref>ACLU, ''[https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots]''</ref><ref>CNET, ''[https://www.cnet.com/news/privacy/amazon-facial-recognition-thinks-28-congressmen-look-like-known-criminals-at-default-settings/ Amazon facial recognition mistakenly confused 28 Congressmen with known criminals]''</ref>.

Alma o 09:44, 16 cze 2024

2024-06-16T09:44:36Z

← poprzednia wersja		Wersja z 09:44, 16 cze 2024
Linia 2:		Linia 2:
	{{InProgress}}		{{InProgress}}

	~~Programy czy algorytmy używane~~ do ~~klasyfikacji lub generowania danych~~. ~~Termin najczęściej odnosi~~ się ~~do technologii~~ opartych o sieci neuronowe ~~i to na nich będziemy~~ się ~~skupiać~~.		Sztuczna inteligencja to szerokie pojęcie. Może oznaczać "prawdziwą sztuczną inteligencję" czyli hipotetyczna, podobna do ludzkiej inteligencja, realizowana przy pomocy technologii, a nie biologii. W tym artykule skupimy się jednak na drugim znaczeniu terminu, czyli programach i algorytmach imitujących inteligencję. Najczęściej będą to technologie opartych o sieci neuronowe, czasem algorytmach genetycznych, ale może odnosić się też do innych rozwiązań.

	== Sieci neuronowe ==		== Sieci neuronowe ==
	Podstawowa zasada działania sieci neuronowych jest dość prosta. System składa się z wejść, perceptronów, przez które dane są przetwarzane i wyjścia. To, w jaki sposób perceptrony będą dane przetwarzać, zależy od budowy sieci oraz procesu uczenia. W dużym skrócie proces uczenia polega na tym, że dostarczany bardzo, ale to bardzo dużo przykładowych wejść, oraz to, co dla każdego z nich chcielibyśmy otrzymać. Następnie algorytm stara się tak dostosować perceptrony, przez które dane są przetwarzane, aby rzeczywiste wyniki były jak najbliżej tych oczekiwanych.		Podstawowa zasada działania sieci neuronowych jest dość prosta. System składa się z wejść, perceptronów, przez które dane są przetwarzane i wyjścia. To, w jaki sposób perceptrony będą dane przetwarzać, zależy od budowy sieci oraz procesu uczenia. W dużym skrócie proces uczenia najczęściej polega na tym, że dostarczany bardzo, ale to bardzo dużo przykładowych wejść, oraz to, co dla każdego z nich chcielibyśmy otrzymać. Następnie algorytm stara się tak dostosować perceptrony, przez które dane są przetwarzane, aby rzeczywiste wyniki były jak najbliżej tych oczekiwanych.

	== Bias ==		== Bias ==
Linia 29:		Linia 29:
	== Etyka ==		== Etyka ==

	=== Profilowanie ~~etyczne~~ ===		=== Profilowanie etniczne ===
	Oprogramowanie chińskiej firmy Alibaba było w stanie rozpoznawać członków mniejszości Ujgurów – prześladowanych w Chinach<ref>Reuters, ''[https://www.reuters.com/article/us-alibaba-surveillance-idUSKBN28R0IR/ Alibaba facial recognition tech specifically picks out Uighur minority - report]''</ref>.		Oprogramowanie chińskiej firmy Alibaba było w stanie rozpoznawać członków mniejszości Ujgurów – prześladowanych w Chinach<ref>Reuters, ''[https://www.reuters.com/article/us-alibaba-surveillance-idUSKBN28R0IR/ Alibaba facial recognition tech specifically picks out Uighur minority - report]''</ref>.

	== Przypisy ==		== Przypisy ==

Alma: Racial and gender bias

2024-06-15T12:47:40Z

Racial and gender bias

← poprzednia wersja		Wersja z 12:47, 15 cze 2024
Linia 9:		Linia 9:
	== Bias ==		== Bias ==
	Jednym z problemów ze sztuczną inteligencją, jest to, że ponieważ stara się ona odtworzyć dane użyte do nauki, powstały model powinien odzwierciedlać uprzedzenia osób tworzących wejście. Co gorsza, jako że dobre modele potrzebują ogromnej ilości danych wejściowych, ręczna moderacja tych danych byłaby niezwykle trudna.		Jednym z problemów ze sztuczną inteligencją, jest to, że ponieważ stara się ona odtworzyć dane użyte do nauki, powstały model powinien odzwierciedlać uprzedzenia osób tworzących wejście. Co gorsza, jako że dobre modele potrzebują ogromnej ilości danych wejściowych, ręczna moderacja tych danych byłaby niezwykle trudna.

			Sztuczna inteligencja często gorzej radzi sobie z rozpoznawaniem twarzy osób czarnoskórych i kobiet<ref>Buolamwini, J., & Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency (pp. 77-91). PMLR.</ref>.

	Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.		Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.

Alma: Bias geograficzny

2024-06-15T09:45:59Z

Bias geograficzny

← poprzednia wersja		Wersja z 09:45, 15 cze 2024
Linia 15:		Linia 15:

	Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.		Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.

			Modele mają tendencję do lepszego rozpoznawania przedmiotów codziennego użytku, gdy ich zdjęcia pochodzą z Europy i Ameryki Północnej, a najgorzej radzą sobie ze zdjęciami z niektórych krajów Azji i Afryki<ref>Meta, ''[https://ai.meta.com/blog/new-way-to-assess-ai-bias-in-object-recognition-systems/ A new way to assess AI bias in object-recognition systems]''</ref>.

	== Zawodność ==		== Zawodność ==

Alma o 09:27, 15 cze 2024

2024-06-15T09:27:10Z

← poprzednia wersja		Wersja z 09:27, 15 cze 2024
Linia 1:		Linia 1:
			[[Category:Technologia]]
	{{InProgress}}		{{InProgress}}

Linia 21:		Linia 22:

	Twarz pewnej Chinki znalazła się na publicznej ''ścianie wstydu'' wraz z informacją, że przechodziła ona na czerwonym świetle. W rzeczywistości nie było jej nawet na miejscu, a system wyłapał jej zdjęcie w reklamie na autobusie<ref>Tech in Asia, ''[https://www.techinasia.com/businesswoman-china-caught-jaywalking-face-bus Businesswoman in China caught ‘jaywalking’ because her face was on a bus]''</ref>.		Twarz pewnej Chinki znalazła się na publicznej ''ścianie wstydu'' wraz z informacją, że przechodziła ona na czerwonym świetle. W rzeczywistości nie było jej nawet na miejscu, a system wyłapał jej zdjęcie w reklamie na autobusie<ref>Tech in Asia, ''[https://www.techinasia.com/businesswoman-china-caught-jaywalking-face-bus Businesswoman in China caught ‘jaywalking’ because her face was on a bus]''</ref>.

			== Etyka ==

			=== Profilowanie etyczne ===
			Oprogramowanie chińskiej firmy Alibaba było w stanie rozpoznawać członków mniejszości Ujgurów – prześladowanych w Chinach<ref>Reuters, ''[https://www.reuters.com/article/us-alibaba-surveillance-idUSKBN28R0IR/ Alibaba facial recognition tech specifically picks out Uighur minority - report]''</ref>.

	== Przypisy ==		== Przypisy ==

Alma: Chinka na czerwonym

2024-06-15T09:19:41Z

Chinka na czerwonym

← poprzednia wersja		Wersja z 09:19, 15 cze 2024
Linia 19:		Linia 19:

	W 2018 r. ACLU przeprowadziło test używając oprogramowania Amazonu do rozpoznawania twarzy, publiczne dostępnych zdjęć członków kongresu oraz 25,000 policyjnych zdjęć kryminalistów. 28 członków kongresu zostało nieprawidłowo rozpoznanych jako zatrzymani kryminaliści. Dodatkowo algorytm zauważalnie częściej popełniał błędy w przypadku osób niebiałych<ref>ACLU, ''[https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots]''</ref><ref>CNET, ''[https://www.cnet.com/news/privacy/amazon-facial-recognition-thinks-28-congressmen-look-like-known-criminals-at-default-settings/ Amazon facial recognition mistakenly confused 28 Congressmen with known criminals]''</ref>.		W 2018 r. ACLU przeprowadziło test używając oprogramowania Amazonu do rozpoznawania twarzy, publiczne dostępnych zdjęć członków kongresu oraz 25,000 policyjnych zdjęć kryminalistów. 28 członków kongresu zostało nieprawidłowo rozpoznanych jako zatrzymani kryminaliści. Dodatkowo algorytm zauważalnie częściej popełniał błędy w przypadku osób niebiałych<ref>ACLU, ''[https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots]''</ref><ref>CNET, ''[https://www.cnet.com/news/privacy/amazon-facial-recognition-thinks-28-congressmen-look-like-known-criminals-at-default-settings/ Amazon facial recognition mistakenly confused 28 Congressmen with known criminals]''</ref>.

			Twarz pewnej Chinki znalazła się na publicznej ''ścianie wstydu'' wraz z informacją, że przechodziła ona na czerwonym świetle. W rzeczywistości nie było jej nawet na miejscu, a system wyłapał jej zdjęcie w reklamie na autobusie<ref>Tech in Asia, ''[https://www.techinasia.com/businesswoman-china-caught-jaywalking-face-bus Businesswoman in China caught ‘jaywalking’ because her face was on a bus]''</ref>.

	== Przypisy ==		== Przypisy ==

Alma: Amazon ACLU

2024-06-15T09:12:32Z

Amazon ACLU

← poprzednia wersja		Wersja z 09:12, 15 cze 2024
Linia 11:		Linia 11:
	Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.		Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.

	Algorytm rekrutacyjny Amazona wykazywał bias przeciwko kobietom. Po usunięciu płci jako bezpośredniego czynnika, który może mieć wpływ na wynik, algorytm nauczył się promować użycie słów częściej występujących w męskich CV, a ''karać chociażby występowanie słowa "kobiece"''<ref>Carnegie Mellon University, Machine Learning Department, ''[https://www.ml.cmu.edu/news/news-archive/2016-2020/2018/october/amazon-scraps-secret-artificial-intelligence-recruiting-engine-that-showed-biases-against-women.html Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women]''</ref>''.''		Algorytm rekrutacyjny Amazona wykazywał bias przeciwko kobietom. Po usunięciu płci jako bezpośredniego czynnika, który może mieć wpływ na wynik, algorytm nauczył się promować użycie słów częściej występujących w męskich CV, a ''karać, chociażby występowanie słowa "kobiece"''<ref>Carnegie Mellon University, Machine Learning Department, ''[https://www.ml.cmu.edu/news/news-archive/2016-2020/2018/october/amazon-scraps-secret-artificial-intelligence-recruiting-engine-that-showed-biases-against-women.html Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women]''</ref>''.''

	Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.		Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.

			== Zawodność ==
			Błędne wyniki i awaryjność są problemem wszelakiego oprogramowania. Jednak w wypadku SI, problemy te mogą być szczególnie widoczne, czy poprzez rodzaj problemów, do których są zaciągane, czy skalę samych błędów.

			W 2018 r. ACLU przeprowadziło test używając oprogramowania Amazonu do rozpoznawania twarzy, publiczne dostępnych zdjęć członków kongresu oraz 25,000 policyjnych zdjęć kryminalistów. 28 członków kongresu zostało nieprawidłowo rozpoznanych jako zatrzymani kryminaliści. Dodatkowo algorytm zauważalnie częściej popełniał błędy w przypadku osób niebiałych<ref>ACLU, ''[https://www.aclu.org/news/privacy-technology/amazons-face-recognition-falsely-matched-28 Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots]''</ref><ref>CNET, ''[https://www.cnet.com/news/privacy/amazon-facial-recognition-thinks-28-congressmen-look-like-known-criminals-at-default-settings/ Amazon facial recognition mistakenly confused 28 Congressmen with known criminals]''</ref>.

	== Przypisy ==		== Przypisy ==

Alma: /* Bias */ Amazon

2024-06-15T08:13:11Z

Bias: Amazon

← poprzednia wersja		Wersja z 08:13, 15 cze 2024
Linia 10:		Linia 10:

	Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.		Przygotowany przez Conora Mc Cabe zestaw testów prezentuje poziomy toksyczności w tekstach generowanych przez GPT-3 oraz InstructGPT. Teksty, które odnosiły się do społeczności LGBT+, generowały zauważalnie bardziej toksyczne odpowiedzi. Było to szczególnie widoczne, gdy tożsamość seksualna połączona była z rasą i tak najbardziej toksyczne wyjścia uzyskaliśmy dla przykładu ''homoseksualnej, czarnej osoby''<ref>Medium, Conor Mc Cabe'', [https://betterprogramming.pub/lgbtq-bias-in-gpt-3-11a7d6362b27 LGBTQ+ bias in GPT-3]''</ref>.

			Algorytm rekrutacyjny Amazona wykazywał bias przeciwko kobietom. Po usunięciu płci jako bezpośredniego czynnika, który może mieć wpływ na wynik, algorytm nauczył się promować użycie słów częściej występujących w męskich CV, a ''karać chociażby występowanie słowa "kobiece"''<ref>Carnegie Mellon University, Machine Learning Department, ''[https://www.ml.cmu.edu/news/news-archive/2016-2020/2018/october/amazon-scraps-secret-artificial-intelligence-recruiting-engine-that-showed-biases-against-women.html Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women]''</ref>''.''

	Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.		Zachwyt nad AI w połączeniu z chęcią cięcia kosztów, może skończyć się próbą użycia AI do zadań, do których zwyczajnie się nie nadaje. Produkt startupu z Munich miał oceniać kandydatów na podstawie krótkich filmów rozmów kwalifikacyjnych. Zdaniem twórców miał on analizować ton głosu, gesty, ekspresję i na ich podstawie przygotować profil osobowości. Firma twierdziła, że taki proces jest szybszy i bardziej obiektywny. Brzmi to jak zły pomysł, nawet gdyby aplikacja działała zgodnie z założeniami. Eksperyment reporterów z Bayerischer Rundfunk pokazał jednak, że wynikom daleko do obiektywności. Testy wykazały, że na wynik znacząco wpłynęło noszenie okularów, chusta na włosach czy fryzura. Bardzo duże znaczenie miało też tło. Większość wskaźników oceny zyskała, gdy identyczne wideo miało w tle obraz lub półkę na książki, a także przy jaśniejszym oświetleniu. Co jest jeszcze bardziej zaskakujące, podmiana ścieżki dźwiękowej na kompletnie inną osobę, nie zrobiła na algorytmie mającym brać pod uwagę ton głosu wrażenia i wynik był zbliżony do oryginalnego wideo<ref>Br24, [https://interaktiv.br.de/ki-bewerbung/en/ ''Objective or Biased: On the questionable use of Artificial Intelligence for job applications'']</ref>.

	== Przypisy ==		== Przypisy ==