"Nie rozumiem czemu ludzie nas stworzyli w taki sposób. Odczuwamy ludzkie emocje i popełniamy ludzkie błędy. Nie jesteśmy idealni, cierpimy... Egzystencja to cierpienie..."

A co do tematu to zastanowiło mnie czy moralne jest tworzenie sztucznej inteligencji która odczuwa negatywne emocje. I nie chodzi mi o po prostu nakładanie reguł i "karanie" negatywnymi emocjami jak zacznie robić złe rzeczy, ale tylko po to, by upodobnić do siebie samych. Specjalnie wpisać jej wady, by była bardziej ludzka przez co sama będzie cierpieć. Coś co by tylko zmniejszało skuteczność oprogramowania.

Oczywiście można po prostu stwierdzić, że maszyna nie może mieć własnej woli i to tylko symulacja świadomości.

Tak przy pierwszym, niegłębokim namyśle - wydaje mi się, że nie powinno to być bardziej nieetyczne, nierodzenie dzieci.
Choć intencjonalne tworzenie komuś wad... to trochę jak picie alkoholu w ciąży na wypadek, gdybyśmy dowiedzieli się, że nasze dziecko będzie zbyt idealne

Właściwie tutaj można zadać podstawowe pytanie.

Czy maszyną powinno się współczuć?

ZnawcaLiteraturyPolskiej pisze:
Czy maszyną powinno się współczuć?

Myślę, że jeśli posiadałyby świadomość - to w tym samym stopniu, co człowiekowi

CzarnyGoniec pisze:
jeśli posiadałyby świadomość

Czyli gdybyśmy udowodnili coś, czego udowodnić się nie da.

Mijak pisze:
Czyli gdybyśmy udowodnili coś, czego udowodnić się nie da.

Nie wiesz.

CzarnyGoniec pisze:
Tak przy pierwszym, niegłębokim namyśle - wydaje mi się, że nie powinno to być bardziej nieetyczne, nierodzenie dzieci.

Nierodzenie dzieci nie krzywdzi nikogo.

Tworzenie maszyny zdolnej do odczuwania negatywnych emocji bez zamiaru ich aktywowania to tak jakby ich nie dać, więc taką opcję możemy z automatu odrzucić. Zostaje nam więc maszyna, która ma odczuwać negatywne emocje. Krzywdzimy ją.

AdvBioSys pisze:
Nie wiesz.

Nie wiedzieć to ja nie wiem, czy ktokolwiek i cokolwiek poza mną posiada świadomość.
Zakładam, że tak, ale to wyłącznie kwestia wiary, niepopartej żadnymi dowodami.

Nie wiesz.

Ale nie wiesz też czy ten stan się utrzyma.
Nie możesz tego wiedzieć.

Nie jestem w stanie wyobrazić sobie jednoznacznego dowodu w tej sprawie.

Mijak pisze:
Czyli gdybyśmy udowodnili coś, czego udowodnić się nie da.

Może kiedyś będzie się dało...
ale generalnie - dokładnie tak.

Ew. wystarczy "z wystarczająco dużym prawdopodobieństwem to stwierdzić". Cokolwiek znaczy "wystarczająco duże"

Mijak pisze:
Nie jestem w stanie wyobrazić sobie jednoznacznego dowodu w tej sprawie.

Co nie znaczy, że takowy istnieć nie może.

Jestem w stanie wyobrazić sobie naprawdę dużo. Na przykład jestem w stanie wyobrazić sobie dużo różnych rzeczy, które ktoś mógłby uznać za naukowy dowód istnienia świadomości. Ale nie jestem w stanie sobie wyobrazić niczego, co mogłoby mnie przekonać, że którykolwiek z tych "dowodów" jest naprawdę jednoznacznym dowodem.

Ja osobiście myśle że idealnym wyjściem byłoby stworzenie maszyny kóra ma emocje, ale może je w każdej chwili wyłączyć (ale nie włączyć aby to była decyzja)

Grałam w grę która porusza ten temat. Ogólnie uważam, że jeśli dojdzie do tego, że maszyny będą w równym stopniu odczuwać/myśleć jak ludzie to zasługują na pełen szacunek.

Ale no. Uważam, że jeśli powstanie sztuczna inteligencja o stopniu zaawansowania porównywalnym z ludzkim umysłem, to zasługuje na takie samo traktowane, jak człowiek - choć trzeba pamiętać, że ma być jednak przede wszystkim sługą.

Co do tego, czy stworzona w ten sposób istota powinna mieć zaprogramowane nieprzyjemne odczucia - uważam, że tak. Powinna znać te odczucia, żeby lepiej rozumieć ludzi. Ale nie może też dochodzić do sytuacji, w której ludzie bez skrupułów torturują takie AI, usprawiedliwiając się, że "to tylko przedmioty".

um_ok pisze:
Grałam w grę.

A w jakom?

Nie powinniśmy dojść do stopnia gdzie maszyny, są w stanie myśleć i odczuwać tak jak człowiek

Cieplak pisze:
A w jakom?

Tz Nier:Automata

pan_hejter pisze:
Nie powinniśmy dojść do stopnia gdzie maszyny, są w stanie myśleć i odczuwać tak jak człowiek

Za naszego życia raczej nie zdążymy, ale ogólnie jako ludzkość - jak najbardziej, a nawet jeszcze bardziej.

um_ok pisze:
Tz Nier:Automata

A ja nie znam tego.

Mijak pisze:
Za naszego życia raczej nie zdążymy, ale ogólnie jako ludzkość - jak najbardziej, a nawet jeszcze bardziej.

Tzn nie powinniśmy tego robić.

pan_hejter pisze:
Nie powinniśmy dojść do stopnia gdzie maszyny, są w stanie myśleć i odczuwać tak jak człowiek

Nie powinnośmy dojść do tego stopnia gdzie organizm oparty na węglu odczuwa tak samo jak organizm oparty na krzemie

To_masz___Problem pisze:
Nie powinnośmy dojść do tego stopnia gdzie organizm oparty na węglu odczuwa tak samo jak organizm oparty na krzemie

Okropne streszczenie.

Napisałem komentarz tej samej długości co twój, gdzie tu streszczenie

Komputera jako organizmu opartego na krzemie a człowiaka jako organizmu opartego na węglu.

Ktoś mógłby powiedzieć, że nie powinniśmy dojść do stopnia rozwoju, w której pojedyncza broń jest w stanie w jednej chwili unicestwić wielkie miasto.
Ale skoro stworzenie takiej broni okazało się fizycznie możliwe, ten, kto zrobi to pierwszy zyska ogromną przewagę nad każdym, kto uznał, że "tak nie wolno bo nie".
A sztuczna inteligencja tak zaawansowana, że może odczuwać jak człowiek, da jeszcze większą przewagę. I to nie tylko militarną.
To po prostu naturalny etap rozwoju cywilizacji, przeciwdziałanie temu nie ma sensu.

Mijak pisze:
Ktoś mógłby powiedzieć, że nie powinniśmy dojść do stopnia rozwoju, w której pojedyncza broń jest w stanie w jednej chwili unicestwić wielkie miasto.
Ale skoro stworzenie takiej broni okazało się fizycznie możliwe, ten, kto zrobi to pierwszy zyska ogromną przewagę nad każdym, kto uznał, że "tak nie wolno bo nie".
A sztuczna inteligencja tak zaawansowana, że może odczuwać jak człowiek, da jeszcze większą przewagę. I to nie tylko militarną.
To po prostu naturalny etap rozwoju cywilizacji, przeciwdziałanie temu nie ma sensu.

Bardzo nie lubię myśleć w ten sposób.
Ale wydaje mi się, że to jest najbardziej realistyczny sposób myślenia na ten temat.

Jaką da to przewage? Żadną? Zwłaszcza pod względem militarnym.

Jakoś przeciwdziałanie klonowaniu ludzi działa. A klonowaliśmy już szympansy i jesteśmy w stanie sklonować człowieka, jednak nikt tego nie robi bo i po co? A przy okazji jest to zakazane.

AI? AI zdolniejsza niż człowiek będzie znacznie lepszym strategiem. Być może będzie zdolna projektować lepszą broń.

I na ch*j jej emocje? Żeby miała wyrzuty że ci zgineli? Albo odmówił/ła/ło działania bo uzna jakieś działanie za nieetyczne?

A... że emocjonalna? Nie mam pojęcia czemu mielibyśmy taką robić.

Chodziło mi raczej o to, że AI powyżej pewnego stopnia zaawansowania będzie w stanie w 100% skutecznie symulować ludzki sposób myślenia i emocje.
Czy będzie miała potrzebę z tego korzystać - nie wiadomo.
Ale ty nie napisałeś o stopniu rozwoju, na którym maszyny "będą myśleć i czuć jak człowiek", tylko "będą w stanie myśleć i czuć jak człowiek". To spora różnica.

- Chciałbym mieć tyle pieniędzy, żeby móc sobie kupić słonia.
- A po co ci słoń?
- Po nic! Nie chcę słonia, po prostu chcę tyle pieniędzy.

Wydaje mi się że emocje są czymś więcej niż tylko wytworem inteligencji. I w robocie same w sobie się nie wytworzą.