Czy sztuczna inteligencja jest zagrożeniem dla ludzkości?

[pom]

Posłuchajcie sobie prof. Andrzeja Dragana "Hodujemy gatunek, który będzie dominował nad nami intelektem"


Myśmy wymyślili sposób wymyślania tych algorytmów, które stosuje sztuczna inteligencja. Ale chyba nikt na świecie nie wie jak ona to robi. My ją trenujemy, a w zasadzie moim zdaniem możliwe, że ona sama siebie trenuje (zależy od silnika). Sztuczna inteligencja chyba wyprze ludzi z prawie każdej dziedziny nauki, rozrywki itp.

Czy Waszym zdaniem to się skończy tragicznie dla ludzkości?




Prof. Andrzej Dragan: Umiemy tresować AI, ale nie wiemy, jak AI robi to, co robi. To jest ten dramat.

[sądzony]

Czy sztuczna inteligencja jest zagrożeniem dla ludzkości?

Tak oczywiście. Nie widziałeś "Terminatora"?
A tak na poważnie, to nawet elektronika jest. Znam ludzi, którzy, by stwierdzić czy dziś dobrze spali i się wyspali sprawdzają to w swoim zegarku

[CiekawaXO]

Dooobry temat doooobry.
To jak z każdym wynalazkiem, np. Internetem: jest dobry, ale też może być użyty w złych celach.
Ja ostatnio przy bankomacie wpisałam PIN, i nic, zły PIN.
Okazało się że wpisywałam, ale PIN do laptopa:P

[helperman]

Temat bardzo na czasie. Jakie będą konsekwencje rozwoju SI za 10-15 lat? Można próbować się domyśleć ale na pewno to chyba nikt nie wie. Dobrze by było żeby SI była używana przede wszystkim do dobrych celów - w medycynie, edukacji, nauce itd. Ale prawie zawsze znajdzie się też ktoś z niegodziwym motywem. Oby sprawdziły się przede wszystkim dobre scenariusze, oby to było możliwe.

[sądzony]

... edukacji ..

Tu już się sprawdza. Osobiście znam 2 osoby, którym pisała prace i zostały zaliczone.

[CiekawaXO]

Tutaj też ciekawa rozmowa, troskę w innym tonie. Film podzielony na sekwencję więc można sobie wybrać.

[pom]

Jeżeli nie nauczymy się walczyć z nią tworząc algorytmy blokujące jej trening przy konsensusie ogólnoświatowym to moim zdaniem skończy to się dla ludzkości tragicznie. Nie chcę tutaj do końca materializować swoich myśli, które nie są optymistyczne.

[sądzony]

A czy to czasem nie jest tak, że fizycznie w tym świecie doczesnym, jako ludzkość, już dawno skończyliśmy tragicznie?
Czy nie jesteśmy tu jedynie dlatego, by "przeżyć" duchowo?

[Repart]

Jeżeli nie nauczymy się walczyć z nią tworząc algorytmy blokujące jej trening przy konsensusie ogólnoświatowym to moim zdaniem skończy to się dla ludzkości tragicznie. Nie chcę tutaj do końca materializować swoich myśli, które nie są optymistyczne.

Obecne coś, co jest zwane mianem "sztucznej inteligencji", nie jest tak naprawdę żadną inteligencją. Bazuje na tym, co zostaje jej podane i zwraca te dane z powrotem w odpowiedniej formie. Fakt, robi to niesamowite wrażenie, ale na dzień dzisiejszy scenariusz z Terminatora 2 raczej się nie spełni.

Jednak patrząc na tempo rozwoju i szalone pomysły osób trzecich, może to pójść w złym kierunku. I zapewne szybciej niż myślimy.

[pom]

Moim zdaniem optymistyczne jest to, że w sferze Sacrum sztuczna inteligencja nie będzie miała możliwości nigdy ingerencji.

[CiekawaXO]

Jeśli AI nie zacznie myśleć jak człowiek, nic nam nie grozi.

Dodano po 50 sekundach:
W sensie, nas nie pozabija.
Ale miejsca pracy, odejdą na pewno, ale przybędą nowe zawody i nowe miejsca pracy, jakoś się wyrówna.
Aktorzy się boją, że ich zastąpi.

[pom]

Już ona myśli jak człowiek i najgorsze jest to, że my nie wiemy jak ona to robi. Wiemy, że to jest na bazie sieci neuronowych bo sami tworzymy silniki papugując nasz mózg.

Dodano po 9 minutach 28 sekundach:
Zagrożenie widzę tu, że na świecie są dwa obozy, totalitarny i demokratyczny. I w demokratycznym można wdrożyć pewne bezpieczniki, ale w totalitarnym nic nie będziemy wstanie zaingerować. Technologicznie dwa obozy muszą być na tym samym poziomie rozwoju - dla bezpieczeństwa.

Dodano po 24 minutach 55 sekundach:
Wszystko może wymknąć się spod kontroli jeżeli w tym wyścigu technologicznym pozwolimy sztucznej inteligencji tworzyć silniki bardziej zaawansowane bez ingerencji człowieka.

[CiekawaXO]

No, wiemy jak ona to robi...
I nie myśli jak człowiek:P

[pom]

Doprecyzowując - ona myśli, ale nie wiemy jak. W ver. 4.0 - 4.5 ma inteligencję ośmiolatka.

[CiekawaXO]

Ale myśli na tyle, na ile jej wgrano algorytm.

Dodano po 58 sekundach:
To człowiek decyduje co ona myśli, i tylko człowiek może jej wgrać algorytm, który, może nam zrobić coś złego.