Czy sztuczna inteligencja jest zagrożeniem dla ludzkości?

[Marek_Piotrowski]

Zagrożenie jest w tym, że niektórym się wydaje, że SI zrobi za nich wszystko i ufają odpowiedziom.
Adwentyści reklamują cykl wykładów "przygotowanych przy udziale SI"

[Repart]

Zagrożenie jest w tym, że niektórym się wydaje, że SI zrobi za nich wszystko i ufają odpowiedziom.

Jest to zagrożeniem, ale tylko dla leniwych. Prawdziwe zagrożenie jest w umysłach ludzi, którzy mają zapędy władcze. Gdy SI na dobre zagości w armiach, broniach i systemach obronnych, zrobi się zamieszanie trudne do naprawienia.

[konserwa]

Chyba przeceniasz. Jezeli zagosci w armiach i broniach, to z obu stron ( z pewnymi fluktuacjami czasowymi ). Summa sumarum - pozostana jako systemy wzajemnie sie neutralizujace. Czyli jako sprzet rownie dobry do ataku dla kazdej ze stron i rownie mozliwy do ochrony dla kazdej ze stron.
I znow rozstrzygajacy pozostanie czynnik ludzki.

[Repart]

Jezeli zagosci w armiach i broniach, to z obu stron ( z pewnymi fluktuacjami czasowymi ). Summa sumarum - pozostana jako systemy wzajemnie sie neutralizujace. Czyli jako sprzet rownie dobry do ataku dla kazdej ze stron i rownie mozliwy do ochrony dla kazdej ze stron.
I znow rozstrzygajacy pozostanie czynnik ludzki.

A właśnie tutaj może być zupełnie inaczej - skoro SI ma wyręczać człowieka, to może sama założyć, czy już atakować innych, czy jeszcze się bronić. Człowiek może zostać pominięty i to będzie największe zagrożenie. Oglądaliśmy to już w Teminatorze, jasne, ale sam widzisz jakiego jobla mają ludzie w zbrojeniu. Niech każde mocarstwo uzbroi swoje armie w SI, a scenariusz sam zaczyna się spełniać.

[Marek_Piotrowski]

Przecież takie możliwości już są w istniejących - bez SI - systemach obronnych.

[Gzresznik Upadający]

Problem w sztucznej inteligencji nie jest w tym ze krzem będzie decydował o odpaleniu pociski na polu bitwy.
Tylko w tym ze za pomocą AI ptzy odpowiednio dużych nocach obiczeniowych bedxie można przygotować wielowarstwowy rozłożony na setki podetapów atak.
NP ktoś już w Chinach kilkanaście lat temu uznal ze gal i german będę potrzebne do budowy nowej generacji radarow. No i Chinczycy opanowali 70 80 procent zasobów światowych..A teraz wyobrazcie sobie takic kilkadziesiąt misternie knutych pułapek na preciwnika w zakresach od siebie niezależnych.
Zobaczcie ile kłopotów aprawil ruscy uzalezniajac zachód od siebie. Począwszy od korupcji , operacji psyops skonczywszy na ukladach geopolitycznych i propagandowych..Gdyby mieli AI prwdopodobnie jeszcze zreformowaliby armie albo polozyliby nacisk na domeny miitarne ktore dalyby im.zwyciestwo.

[Marek_Piotrowski]

Ale to przecież znów to samo co dziś. Jedna strona wprowadziła miecze - druga też. Jedna łuki - druga też. Jedna kusze - i druga podobnie.
I tak dalej.
Nie widzę tu różnicy jakościowej.

[Repart]

Przecież takie możliwości już są w istniejących - bez SI - systemach obronnych.

No właśnie - a co dopiero może być gdy będzie SI.

[CiekawaXO]

Tylko że miecze się nie zwrócą same z siebie na polu walki przeciw innym, i nie tak łatwo je hakować.
Jak da się hakować AI, to hakerzy będą więcej zarabiali niż ktokolwiek inny.
Wyobraź sobie jesteś na placu boju z AI, i nagle po ataku hakerów zaczyna rozwalać nie tych co trzeba.
Jak masz bombę atomową to raczej celu nie zmieni sama z siebie.

[Repart]

Problem w sztucznej inteligencji nie jest w tym ze krzem będzie decydował o odpaleniu pociski na polu bitwy.
Tylko w tym ze za pomocą AI ptzy odpowiednio dużych nocach obiczeniowych bedxie można przygotować wielowarstwowy rozłożony na setki podetapów atak.

Tylko że to nadal będzie zależne od woli człowieka. Mi chodzi o wolę SI.

[Marek_Piotrowski]

Tylko że miecze się nie zwrócą same z siebie na polu walki przeciw innym, i nie tak łatwo je hakować.
Jak da się hakować AI, to hakerzy będą więcej zarabiali niż ktokolwiek inny.
Wyobraź sobie jesteś na placu boju z AI, i nagle po ataku hakerów zaczyna rozwalać nie tych co trzeba.
Jak masz bombę atomową to raczej celu nie zmieni sama z siebie.

Zgoda, ale to dotyczy - nawet mocniej - obecnych deterministycznych systemów obronnych. SI zhakować jest trudniej.

[sądzony]

Ja osobiście obawiam się relacyjnego "przejścia" człowieka ze świata rzeczywistego do wirtualnego.
Większość potrzeb będzie zaspokajała SI. Np.: quasi-miłość.
Coś jak matrix.

[CiekawaXO]

Już w nim siedzisz i klikasz z niego do nas.

[sądzony]

Już w nim siedzisz i klikasz z niego do nas.

Się zgadza.

[pom]

A czy możliwa jest analiza czatu przez SI z wykorzystaniem przez użytkowników skłonności do danych części tekstu zawartych np. hasłach?

Dodano po 14 minutach 18 sekundach:

Japońska telewizja NHK poinformowała, że chiński bot został zamknięty, gdy zaczął wypowiadać się negatywnie o partii komunistycznej. Gdy jeden z użytkowników napisał do niego: "Hurra dla komunistycznej partii", algorytm odpowiedział: "Czy naprawdę chcesz wznosić ten okrzyk na rzecz tak skorumpowanej i niekompetentnej siły politycznej?".

W marcu ubiegłego roku algorytm o nazwie Tay uruchomiony przez Microsoft na Twitterze został odłączony po zaledwie 16 godzinach działania. Wyłączono go za wulgarne, rasistowskie i obrażające użytkowników wpisy. Przedsięwzięcie określono wizerunkową wpadką nie tylko koncernu, ale i nowoczesnych technologii. W komentarzach internauci usprawiedliwiali zachowanie sztucznej inteligencji czerpaniem informacji z powszechnego w sieci "hejtu" zamieszczanego tam przez ludzi.

https://tvn24.pl/swiat/chiny-bot-ze-szt ... 45-2571985

Czy możliwy jest bunt SI?

Dodano po 41 minutach 55 sekundach:
Czy możliwe są włamy za pomocą SI do systemów bankowości online?