Pytanie:
Obawy etyczne dotyczące przeglądu artykułu na temat autonomicznych uzbrojonych dronów
Leopold Bloom
2020-03-02 18:14:15 UTC
view on stackexchange narkive permalink

Chciałbym otrzymać Twoją sugestię w delikatnej sprawie związanej z artykułem, który recenzuję. Nie będę podawać zbyt wielu szczegółów, aby zachować anonimowość.

W tym artykule autorzy opisują algorytm (bezzałogowego) sterowania wojskowym uzbrojonym dronem. Praca została wykonana w całości w symulatorze, ale autorzy przedstawiają wyraźne zdjęcia typu reprodukowanego przez nich wojskowego drona, wyraźnie mówiąc, że prawdziwy dron można uzbroić w różnego rodzaju bomby. Wydajność algorytmu jest oceniana na podstawie tego, ile razy symulowany dron autonomicznie uderzył w cel. Autorzy nigdy nie omawiają możliwych problemów etycznych związanych z tą technologią, ani też nie mówią wprost, czy ta technologia będzie używana w prawdziwych dronach do uderzania ludzi w cele z możliwym udziałem cywilów (np. W walce z terroryzmem).

Mój osobisty jest przeciwne rozwojowi śmiercionośnej broni autonomicznej. Mimo, że mam kilkuletnie doświadczenie w recenzowaniu artykułów, to pierwszy raz mam do czynienia z takim problemem i nie wiem, jak się poruszać. Myślę, że tego rodzaju problemy etyczne są powszechne w dziedzinach związanych z medycyną, ale raczej rzadkie w inżynierii i że zaskakują naszą społeczność.

Zwróć uwagę, że z formalnego punktu widzenia sytuacja jest rozmyty. Mimo że pojawiła się międzynarodowa petycja przeciwko rozwojowi autonomicznej broni, formalizacja międzynarodowego zakazu (takiego jak zakaz dotyczący broni chemicznej) wydaje się być odległy. Co więcej, wytyczne etyczne czasopisma odnoszą się tylko do wykorzystywania zwierząt w badaniach i do eksperymentów na ludziach. To pozwala mi stwierdzić, że z formalnego punktu widzenia artykuł jest legalny, ponieważ nie łamie żadnej reguły.

Rozważyłem napisanie do redakcji wyrażenia swoich obaw lub wskazania ich bezpośrednio w recenzji, aby autorzy mogli udzielić odpowiedzi na moje pytania. Jako ostatnie rozwiązanie rozważam również możliwość wycofania się, ale wolałbym nawiązać dialog z autorami i redaktorem, ponieważ jest to bardziej konstruktywne dla wszystkich. Uważam jednak, że ważne jest również rozważenie hipotezy, że moje stanowisko etyczne może wpływać na moją recenzję (nawet jeśli staram się być jak najbardziej neutralna) i może to być niesprawiedliwe dla oceny jakości technicznej proponowanej metody.

Moje pytanie : jak mam postępować w procesie przeglądu? Jest kilka opcji: wycofaj się z powodów etycznych, po prostu przejrzyj artykuł, przejrzyj i przedstaw moje obawy etyczne redaktorowi (i być może autorom).


Aktualizacja: 5 marca 2020

Dziękuję wszystkim za odpowiedzi, naprawdę pomogli mi lepiej zrozumieć sytuację. Zdecydowałem się wycofać jako recenzent i wysłałem oficjalny list do redakcji. W liście wyraziłem swoje obawy etyczne, nie komentując jakości technicznej artykułu. Artykuł nie złamał żadnej formalnej zasady, dlatego rekomendacja oficjalnego odrzucenia byłaby jak narzucenie mojej osobistej etyki procesowi recenzji. W liście opisałem również te zdania, które wyraźnie przedstawiały drona jako autonomiczną śmiercionośną broń.

Zastępca redaktora napisał do mnie, że redaktorowi spodobało się moje podejście akademickie i chce, żebym poprosił o drugą recenzję. Zespół redakcyjny skontaktował się z autorami, którzy stwierdzili, że nie chcą wywołać nieporozumienia i że są skłonni zmodyfikować wyrażenia. Wydaje się to sugerować, że przekazali autorom listę zdań, które poufnie przekazałem redaktorowi i że autorzy chcą dostosować te zdania w poprawionej wersji.

Osobiście uważam, że samo przeformułowanie artykułu bez zmiany treści nie wystarczy. Możesz zamienić „cel” na „cel”, a „atak” na „zasięg”, ale to pozostaje autonomicznym uzbrojonym dronem.

Komentarze nie służą do rozszerzonej dyskusji;ta rozmowa została [przeniesiona do czatu] (https://chat.stackexchange.com/rooms/105143/discussion-on-question-by-leopold-bloom-ethical-concerns-regarding-the-review-of).
Czy wybór celu jest autonomiczny, czy tylko sam atak po wybraniu celu przez człowieka? Powiedziałbym, że pierwszy jest niebezpieczny, a drugi nie.Od dawna są pociski kierowane, pociski manewrujące, bomby kierowane laserowo / GPS itp. I lepiej ich używać, a nie dywanowej na całym obszarze w stylu II wojny światowej.
@Nyos w artykule nie omówiono tego szczegółu.Cel jest podany, ale nie ma opisu sposobu, w jaki został pozyskany.Należy jednak pamiętać, że rozróżnienie między śmiercionośną bronią autonomiczną (LAW) a jednostką kierowaną bombą (GBU) nie opiera się na sposobie dostarczenia celu, ale na stopniu autonomii samej broni.PRAWO mają wyższy poziom autonomii i zdolność do samodzielnego podejmowania decyzji dotyczących nawigacji i ataku.Opisywany w artykule dron jest wyraźnie PRAWEM.Zapraszam do zajrzenia na stronę Wikipedii o PRAWACH po dalsze szczegóły.
@Nyos nawet to można łatwo uznać za problem etyczny.Jasne, precyzyjne uderzenie drona, które po prostu zabija osobę, którą chcesz zabić, i może kilka zabezpieczeń (tutaj uprzedmiotawiających ludzi ^^) tuż obok tej osoby (ich wina wyraźnie ^^) może być lepsze niż bombardowanie dywanem całej wioski.Ale z drugiej strony, może nie zabijanie nikogo jest jeszcze lepsze.To znaczy.dostarczając tak precyzyjną broń, możesz zwiększyć prawdopodobieństwo, że takie morderstwa w ogóle się zdarzają.Dlatego mogą istnieć powody do niepokoju, niezależnie od rodzaju drona / broni.
@FrankHopkins, ale czy nie wyodrębniłeś tego zbyt daleko w innym kierunku?Czy należy odmówić przeglądu jakichkolwiek badań, które mogłyby * potencjalnie * zostać użyte w jakiejkolwiek broni?Na przykład, czy byłbyś zwolennikiem odmowy przeglądu badań nad aerodynamiką, ponieważ drony używają skrzydeł do latania?
@dwizum Nie uważam wcale takiej abstrakcji.Nie chodzi o młoty czy skrzydła, wciąż mówimy o rzeczach, które są przede wszystkim bronią.I uważam, że to kategoryczne stwierdzenie, że jeden rodzaj broni nie jest problematyczny, ponieważ jest bardziej chirurgiczny, bardzo wątpliwy i uważam za bardzo rozsądne - niezależnie od tego, czy się za tym zgadzam w każdym przypadku, czy nie - że ktoś uważa tę broń za równie lub bardziej nieetyczną niż wmd.Przede wszystkim dlatego, że ułatwiają i tym samym usuwają część automatycznej kontroli publicznej (gdy trzeba wysłać siły specjalne).
@dwizum Btw.mając bardziej ogólny pacyfistyczny pogląd, zazwyczaj łatwo jest argumentować, że każda nowa „lepsza” broń może być nieetyczna, ale nie o to mi chodzi.(I nie, nie mówię, że wszyscy powinniśmy trzymać się takiego pacyfistycznego stanowiska, ale i tak zrozumiałbym, gdyby niektórzy ludzie chcieli to zrobić i uznaliby to za nie mniej etyczne niż ludzie o bardziej pragmatycznym podejściu).
@dwizum Rozważ zatrucie byłego szpiega w obcym kraju.Z zaledwie kilkoma zabezpieczeniami osób, które podchodzą zbyt blisko, gdy dochodzi do zatrucia.O wiele bardziej chirurgiczne niż wysyłanie bombowców i wygodniejsze niż wysyłanie specjalnego zespołu operacyjnego.Czy opracowanie takiej trucizny jest etyczne?Zachód z pewnością tego nie lubi.... kiedy zrobi się to na ich terenie. ^^ A co, jeśli jakiś zły dyktator ma takie chirurgiczne drony uderzeniowe i może wygodnie grać w "mordować opozycję" ze swojego fotela do gry.Jako szczery obywatel wolałbym, żeby miał bomby atomowe - przynajmniej byłoby mniej prawdopodobne, że użyłby ich przeciwko mnie.;)
Czy ich badania są nierozerwalnie związane z ich obecną domeną aplikacji?To znaczy, czy te same badania / algorytmy mogą być równie przydatne, gdy zostaną zastosowane do niekontrowersyjnego przypadku użycia (np. Zrzucanie [granatów przeciwpożarowych] (https://www.fireprouk.com/products/firepro-fire-suppression-systems/ generatory-skondensowanego-aerozolu-firepro-certyfikowane-lpcb /) na hotspotach pożaru)?Przydatne badania, które są osadzone w nieetycznej domenie problemu, prawdopodobnie uzasadniają inną odpowiedź niż badania, które nie mają etycznego przypadku użycia.
Zastanawiam się, czy bardziej pomocne byłoby podzielenie tej kwestii na swoją etykę osobistą i faktyczny artykuł.Czy recenzja artykułu powinna uwzględniać osobiste poglądy recenzenta?Jeśli tak, to czego możemy się spodziewać po recenzjach, publikacjach itp.?Stwierdzasz różnicę między treścią a szerszym światem etycznym, w którym istnieje, ale nie jestem do końca pewien, czy artykuł jest „zły”, jeśli skupia się tylko na jego inżynierskiej perspektywie.Może bardziej pasowałaby druga praca dotycząca etyki.
@LeopoldBloom Myślę, że prawdziwym problemem jest to, że tego typu badań nie da się zatrzymać.Jeśli przekonasz dziennik, aby go odrzucił, może zostać przepisany jako wydarzający się w wirtualnym świecie, jak gra wideo, która i tak by go po prostu cienko przesłaniała.Wciąż trafi w ręce ludzi, którzy chcieliby go użyć do zrobienia dokładnie tego, co według gazety powinno zrobić.Gdyby obecnie znajdował się w wirtualnym świecie i nie był stosowany w kontekście świata rzeczywistego, czy odrzuciłbyś go, ponieważ _ mógłby_ zostać zastosowany do kontekstu świata rzeczywistego?Bardzo trudno jest zatrzymać „postęp”.
@FrankHopkins * można by przepisać, że dzieje się to w wirtualnym świecie, jak gra wideo, która i tak by go po prostu cienko przesłaniała * Nie sądzę, abyśmy mogli * mogli * to zdanie, ponieważ już się dzieje.Nie musisz nawet opuszczać Stack Exchange, aby zobaczyć dowody: posiedzieć na chwilę w witrynie AI i obserwować liczbę pytań, które zasadniczo dotyczą tego, jak zaprogramować komputerową sztuczną inteligencję, aby była dobra zarówno w wybieraniu, jak i trafianiucele.
@dwizum Nie sądzę, aby Twój ostatni komentarz był przeznaczony dla mnie;)
@GenericJam Nie zamierzam zatrzymywać tej instancji A, ponieważ inna instancja A „na pewno” nie zostanie zatrzymana (przez inną osobę, ponieważ zacytuje mnie jako wymówkę ^^) jest dość słabą wymówką, aby nie zatrzymywaćwystąpienie A można zatrzymać.To powiedziawszy, fakt, że technologię można wykorzystywać na różne sposoby, jest właśnie powodem, dla którego etyka nigdy nie jest całkowicie wykluczona.I nie jest też czarno-biały.Gdybym mógł zdecydować się na wynalezienie śmiertelnego wirusa zdolnego do zabicia ludzkości, a nie robiąc tego, opóźniłbym jego wynalazek tylko o 3 lata, nadal uważałbym to za etycznie dobrą decyzję.
„autorzy nigdy nie omawiają możliwych problemów etycznych związanych z tą technologią” - myślę, że gdyby tak zrobili, nie zostało by dużo miejsca na resztę artykułu!
Tak.Ponowne przeredagowanie artykułu nie wystarczy.Wyjaśnienie, że ich praca jest niepraktyczna, ponieważ jakakolwiek broń kontrolowana przez ich algorytm może naruszyć zasadę proporcjonalności, a tym samym prawa wojny, wystarczyłoby.Jako uczeni są zobowiązani do określenia ograniczeń swojej pracy.Nie możemy liczyć na zakaz autonomicznych systemów uzbrojenia, ale możemy mieć traktat regulujący ich użycie.Pozostając jako recenzent, możesz zmusić autorów do cytowania praw wojennych i wniesienia niewielkiego wkładu w ten traktat.
@Strawberry zgodził się, że nie mogą omawiać tematu w swoim artykule i byłoby to traktowane jako odejście od głównego tematu.To, co mogliby z łatwością zrobić, to odwołać się do odpowiedniej publikacji, artykułów prasowych, osobnego artykułu w sekcji prac pokrewnych w jednym lub dwóch zdaniach.
Jedenaście odpowiedzi:
#1
+95
Buffy
2020-03-02 18:55:09 UTC
view on stackexchange narkive permalink

Proponuję wycofać się i wysłać formalne pismo do redakcji, w którym wyraża swoje obawy. Cytuj większy wszechświat moralny niż ten wąski objęty polityką czasopisma. Zaproponuj, że samo badanie jest nieetyczne i rekomenduj, bez szczegółowej recenzji, odrzucenie artykułu.

Byłem w podobnym, ale mniej trudnym przypadku. Byłem pasterzem gazety, która przekroczyła mniej niebezpieczną granicę. Wielokrotnie kontaktowałem się z autorami i próbowałem w kilku komunikatach przekonać ich, że proponowane przez nich działania były błędne. Nie udało mi się ich przekonać. Artykuł został odrzucony. Otrzymałem nagrodę za moje wysiłki, aby ich przekonać, mimo że zawiodłem.

Z mojego doświadczenia wynika, że ​​ludzi, którzy robią takie rzeczy, nie przekona żaden dialog. Są w to zbyt zainwestowani, żeby wysłuchać.

Nie czekaj, aż „siły, które są” zdecydują, że te rzeczy są niemoralne i prowadzą do złego końca. Jeśli ludzie tacy jak recenzenci na dole piramidy nie narzekają na to, tego rodzaju badania będą kontynuowane i zostaną wdrożone. Jest na to zbyt wiele historycznych przykładów, aby zignorować konsekwencje.

Komentarze nie służą do rozszerzonej dyskusji;ta rozmowa została [przeniesiona do czatu] (https://chat.stackexchange.com/rooms/105142/discussion-on-answer-by-buffy-ethical-concerns-regarding-the-review-of-a-paper-o).
„Cytuj szerszy wszechświat moralny niż ten wąski objęty polityką czasopisma. Zasugeruj, że same badania są nieetyczne i zalecaj, bez szczegółowego przeglądu, odrzucenie artykułu”.<- Tak, wszystko to.Inaczej wpadłby w to.
@Araucaria-Nothereanymore.Jest oczywiste, że Twoja sugestia jest wyrażona w dobrej wierze i zgadzam się, jednak zauważ, że wyraźne zalecanie odrzucenia na podstawie etyki nie różni się od rekomendowania odrzucenia ze względu na rasę, religię, politykę lub kolor skóry lub cokolwiek innego niezwiązanego z artykułemfunkcja, którą pokazuje artykuł.Chodzi mi o to, że różni ludzie mają różne opinie na temat tego, co jest etyczne, a to tylko otwiera drogę do króliczej nory.To samo dotyczy całej odpowiedzi: zgadzam się z tym, ale to straszna rada.
Myślę, że * „większy wszechświat moralny niż ten wąski objęty polityką czasopisma” * jest trafnym opisem.Czasami pojawiają się nowe tematy, które nie mieszczą się w starych zasadach, i należy je zaktualizować.Wycofanie się jest wyraźnym sygnałem dla dziennika, że muszą się nad tym zastanowić.
@gented Zawsze mnie trochę łaskocze, gdy widzę, jak ludzie zaczynają moralnie próbować pozostać niemoralni;)
@Araucaria-Nothereanymore.czy masz na myśli „swoją opinię o moralności” czy „swoją opinię o niemoralności”?To też mnie bardzo łaskocze :)
@Buffy.Spekulując z pozycji niewiedzy, mogę zasugerować, że publikacja wspomnianego artykułu może być dodatnim wynikiem netto, ponieważ można wymyślić środki zaradcze (techniczne i polityczne) dla opublikowanych strategii.Co ma powstrzymać laboratorium przed wdrożeniem / sprzedażą takiej technologii bez publikacji?
#2
+38
AppliedAcademic
2020-03-02 20:13:20 UTC
view on stackexchange narkive permalink

PO jest niewątpliwie świadomy, że jest to trudne pytanie w przypadku niektórych szarych obszarów. Udzielenie jednej obiektywnej odpowiedzi może być również trudne, dlatego najpierw przedstawię kilka kierunków działań, a następnie przedstawię osobistą sugestię.

(1) Odrzuć, ponieważ praca jest nieetyczna - recenzent moralne prawo do tego. Oczywiście, jeśli nie ma wspierającego ustawodawstwa lub precedensu, może to stać się dość subiektywne, a recenzent powinien być przygotowany do obalenia.

(2) Odrzucić ze względów akademickich - podejście polegałoby na wskazaniu, że autorzy nie wykonali rygorystycznej pracy, ponieważ nie zastanawiali się nad możliwymi konsekwencjami takiej technologii, a to jest ważna część rozwoju technologii.

(3) Przejrzyj artykuł pod kątem czysto akademickich zalet, ale w recenzji, wyraźnie powiedz redaktorowi, że ta praca może mieć niezamierzone negatywne konsekwencje, a twoja recenzja ich nie bierze pod uwagę.

(4) Przejrzyj czasopismo i sprawdź, czy publikuje artykuły, które są (w opinia recenzenta) problematyczne. Jeśli tak, wycofaj się z przeglądu ORAZ podnieś świadomość tego czasopisma publicznie za pośrednictwem mediów, sieci akademickich i tak dalej. (Napisz również do dziennika, ponieważ jest to oczekiwana korzyść.) Bez drugiej czynności, pierwsza jest sterylna i prawie wymyka się odpowiedzialności.

Tak, żadna z opcji nie jest łatwa i obejmuje zachęcanie do reakcji lub poczucie winy. Decyzję należy podjąć w oparciu o hart ducha i apetyt na krytykę. Osobiście nie mogę polecić łagodniejszego wyjścia, więc moja rekomendacja byłaby albo (3), albo (4) w zależności od tego, jak bardzo ktoś jest nastawiony do problemu.

EDYTUJ:

Po sugestia w komentarzach, warto rozróżnić tło (3) i (4).

W (3), gdzie przekazuje się swoje obawy redaktorowi poprzez prywatną komunikację, ciężar moralny spoczywa wprost na redaktorze / czasopiśmie. Recenzent ma czysto akademicki obowiązek i jest zadowolony z komunikowania obaw na osobności. Mogą istnieć dobre powody, aby przyjąć takie stanowisko - ufając etycznemu / moralnemu rdzeniu redaktora / czasopisma, wierząc, że ta szara strefa powinna być rozpatrywana w ramach zawodowych, a nie publicznie.

W (4) , nie zwalnia się z odpowiedzialności moralnej i decyduje się osobiście zająć się kwestiami etycznymi. Oznacza to przyjęcie odpowiedzialności nie tylko za ostry sprzeciw, ale także za skuteczne rozpowszechnienie przesłania. Jest to z natury trudniejsze, ale bardziej odpowiedzialne i prawdopodobnie satysfakcjonujące podejście.

To dobra odpowiedź, ale można by ją poprawić, omawiając różnicę między przekazywaniem ostrzeżenia o moralności technologii w samej recenzji a prywatną korespondencją z przewodniczącym.
Zgadzam się z @StellaBiderman,, to wygląda na dobrą i wyważoną odpowiedź.Odnośnie punktu (4) nie znalazłem żadnego podobnego artykułu opublikowanego w czasopiśmie, więc odrzucam to rozwiązanie.W tej chwili wybrałem opcję (3), pisząc akapit o moich obawach etycznych i szczegółowej analizie technicznej.
Możesz także po prostu wycofać się z procesu przeglądu z osobistych powodów etycznych.Odrzucenie artykułu ze względów etycznych należy do decyzji czasopisma - nie jest właściwe składanie odrzucenia na tej podstawie, jeśli redaktor nie zgadza się z publikacją treści.Nie musisz jednak wyrażać zgody na jego przeglądanie.
Chociaż podoba mi się pańska prezentacja kierunków działań, nie zgadzam się z pańską rekomendacją.(3) nie wystarczy.
* recenzent powinien być przygotowany do obalenia * Prawdopodobnie nie rozumiem poprawnie słowa „obalenie” (nie jestem ojczystym językiem angielskim), więc co to dokładnie oznacza?Jeśli recenzent odmówi z powodu etyki, nie ma nic, co mogłoby go zmusić do przeglądu.Masz na myśli, że redaktor będzie próbował wyjaśnić, że wszystko w porządku, proszę bardzo?
@WoJ w informatyce typowe dla autorów jest to, że potrafią napisać odpowiedź do recenzentów, przedstawiając kontrargument na wszelkie zgłaszane wątpliwości i wyjaśniając punkty nieporozumień.Następnie recenzenci aktualizują swoje recenzje na podstawie odpowiedzi i zapada ostateczna decyzja.Ta odpowiedź jest określana jako „obalenie”.W potocznym języku angielskim obalenie to argument, który przeciwstawia się argumentowi innej osoby.
@StellaBiderman: dziękuję - myślałem, że to będzie wiadomość od ** redaktora **, teraz rozumiem, że to ** autor ** udziela odpowiedzi (to jest - a przynajmniej było, gdy robiłem badania-to samo w fizyce).
#3
+20
Allure
2020-03-03 12:13:32 UTC
view on stackexchange narkive permalink

Jeśli naprawdę cię to niepokoi, wycofaj się z recenzowania artykułu i powiedz redaktorowi o problemach etycznych.

Jeśli odrzucisz artykuł z jakichkolwiek innych powodów niż akademickie, to implicite narzucanie autorom twojej etyki. Oświadczenia etyczne, które mają dla ciebie jak największy sens, mogą w ogóle nie mieć sensu dla kogoś innego; Sam fakt, że autorzy przeprowadzili badania, wskazuje, że autonomiczne uzbrojone drony nie są etycznie odrażające. Możesz twierdzić, że twoja etyka jest „lepsza” od ich, ale to nie jest pewne, a rozsądna osoba może zająć odwrotne stanowisko. Jeśli nie chcesz mieć nic wspólnego z pracą z powodów etycznych, odmów jej przeglądu i pozwól, aby ktoś, kto jest mniej zaniepokojony etyką, przejrzał ją.

To powiedziawszy, możesz wskazać ten problem czasopismu i upewnij się, że zgadzają się z etyką. Możliwe, że czasopismo zgodzi się z Tobą, że autonomiczne uzbrojone drony są nieetyczne i odrzuci artykuł bez recenzji. Jeśli mimo to opublikują, możesz zdystansować się od czasopisma, nie recenzując dla nich i / lub publikując z nimi w przyszłości.

* sam fakt, że autorzy przeprowadzili badania, wskazuje, że autonomiczne uzbrojone drony nie są dla nich etycznie odrażające * lub wyciszają swoje wewnętrzne sumienie na korzyść przedmiotu zainteresowania, wyciągu bankowego, statusu społecznego, presji rówieśników lub kombinacji innychtakie powody.To nie byłby pierwszy raz.
Prawda o wielu rzeczach, które znaczna liczba ludzi uważa za odrażające.Od jedzenia wieprzowiny po płacenie podatku dochodowego.
#4
+19
Mefitico
2020-03-03 03:58:26 UTC
view on stackexchange narkive permalink

TL, DR: Powinieneś po prostu zignorować swoje pytania moralne w celu przejrzenia tego artykułu.

Do ujawnienia: pracuję w dziedzinie związanej z obronnością.

Podsumowując:

  1. Pytanie, które możesz proponować, jest prawdopodobnie znacznie bardziej złożone i wymaga trudniej- narysować linie, niż myślisz.

  2. Jakiekolwiek stanowisko polityczne, które może zająć czasopismo, byłoby wysoce wątpliwe, a także nie do ciebie należy decyzja

  3. Dyskusja etyczna na temat każdego takiego dokumentu technicznego jest poza zakresem. Mimo że kodeksy etyczne powinny być znane i przestrzegane przez wszystkich specjalistów w każdej dziedzinie.

  4. O ile istnieją ustalone wytyczne etyczne dotyczące tego rodzaju publikacji, żadne z nich nie zostało naruszone do obecnego pytania (jak sam wskazałeś).

  5. Jako osoba i istota ludzka masz możliwość odmówienia przeglądu artykułu. Ale nie spodziewaj się ani nie zmuszaj innych do robienia tego samego.

W trybie szczegółów / rantowania:

Pomimo tego, że jest to praca inżynierska, powinieneś pomyśleć o ogólnych podstawach nauki. „Nauka” i „etyka” to różne rzeczy, które przecinają się w ramach „działań”. Artykuł nie twierdzi, że zabija ludzi w celach testowych, mówi tylko o symulacjach, stąd też ze względu na brak działań część naukowa różni się od etycznej, więc w mojej książce nie ma absolutnie żadnej etycznej troski cokolwiek, na czym recenzent powinien się troszczyć podczas recenzowania artykułu (poza fałszywymi symulowanymi wynikami, nieuczciwymi raportami i innymi rzeczami mającymi zastosowanie nawet do czystej matematyki).

Widzę wiele wyzwań technicznych w dziedzinie broni autonomicznej / drony / samochody i tak dalej, a to są dziedziny, w których ludzie aktywnie pracują i rozwijają swoją karierę, na dobre i na złe.

Jeśli sprzeciwiasz się opracowywaniu autonomicznej broni, to jest to Twoje stanowisko polityczne, którego (IMHO) nie powinno wspierać żadne czasopismo naukowe jako podmiot. Możesz sprawdzić, czy czasopismo, o które prosiłeś, ma jakieś powiązane zasady, ale wątpię, aby tak było. W związku z tym nie jest częścią twojego zadania przeglądowego przedstawianie politycznych twierdzeń na temat artykułów, które recenzujesz.

Gdzie dokładnie wyznaczasz granicę? Autonomiczna broń do zabijania jest skierowana do ciebie ale co z AI rozpoznawania twarzy? Istnieją również obawy dotyczące nieuregulowanego rozwoju aplikacji AI, a nawet proponowane tymczasowe zakazy korzystania z tej technologii. Czy spodziewasz się, że każde czasopismo AI przestanie publikować do odwołania? Może chciałbyś, aby wszystkie publikacje dotyczące wydajności broni również zostały wstrzymane, ponieważ ogólnie broń jest zła? Otrzymuję tysiące wyników, wyszukując hasło „wydajność rakiet” w Google Scholar, a wszystkie na pierwszych stronach mówią o inżynierii bez dyskusji etycznej. Czy wszystkie te dokumenty również powinny zostać odrzucone?

Czy uspokoiłoby cię twoje sumienie, gdyby „temat” referatu był nieco bardziej zamaskowany? Może nie miałbyś nic przeciwko czysto matematyczny esej o metodach Monte-Carlo, ale zgadnijcie co: wywodzą się z projektu bomby atomowej. Kiedy byłem studentem, pracowałem nad projektem, w którym symulowany dron robił zdjęcia celu. Co dziwne, aparat zawsze psuł się po wykonaniu pierwszego zdjęcia. Zajęło mi kilka minut, zanim zauważyłem, że chodziło o symulację bomby. Chociaż był to jedyny raz, kiedy ten temat był traktowany, a żadni nieświadomi ludzie nie byli trochę wstrząśnięci, najwyraźniej był to ruch empatyczny ze strony nauczyciela.

Bez ogródek, gdyby moja praca (tylko techniczna / teoretyczna) została odrzucona z powodu opinii recenzenta, że ​​„ta technologia powinna zostać zakazana”, nie różni się to od tego, że on / ona mówi: „moja religia nie zgadza się z tym, co ty mówią". Co zdarzyło się w przeszłości, historie opowiadają, że Napoleon kiedyś zakwestionował Laplace'a, czy nie poświęcił Bogu żadnego słowa w jednym ze swoich traktatów. Oczywiście to się zaciera w dziedzinach humanistycznych, gdzie zawartość kiepskiej publikacji może przełożyć się na rzeczy wyraźnie zabronione, takie jak mowa nienawiści, walka ze słowami i tak dalej. Istnieje również problem w naukach medycznych / biologicznych, gdzie każda przyzwoita publikacja wymaga wyników empirycznych (tj. Chociaż mogę symulować uderzenie drona, nie mogę zasymulować trucizny działającej na organizm ludzki). Ale to pytanie nie dotyczy naukowej wartości artykułu.

Nie proś także autorów o włączenie dyskusji etycznej do ich artykułu. To po prostu poza zakresem i, szczerze mówiąc, jest to dziedzina nauk humanistycznych, a nie inżynieria. Z jednej strony jestem w pełni przygotowany do pisania i czytania literatury naukowej o inżynierii uzbrojenia (w dziedzinach, w których pracuję) i musiałem przejść kurs etyki na studiach licencjackich, jestem świadomy i przestrzegam kodeksów etyki obowiązującej w moim zawodzie, ale jestem kompletnym noobem, jeśli chodzi o nauki etyczne / polityczne i legislacyjne na poziomie badawczym. Nie mogę i nie powinienem żądać wspólnego przeglądu i omawiania najnowszej literatury na temat etyki broni autonomicznej i jej technicznego funkcjonowania za każdym razem, gdy piszę o algorytmach broni. Po prostu robię to drugie. Wyjątkiem może być dodanie standardowego tekstu, takiego jak „Uwaga: ten artykuł nie popiera morderstwa”. Ale tylko prawnicy dbają o standardowe teksty i myślę, że nie jesteś prawnikiem.

Słuchaj, pracuję w dziedzinie związanej z obronnością i znam ludzi, którzy pracują z niektórymi produktami, które mogą ostatecznie (celowo) zabijać ludzi. Naprawdę, dyskusja etyczna się starzeje, możesz poświęcić kilka dni na zastanowienie się, czy się z nią zgadzasz, ale kiedy skończysz, dyskusja dobiegnie końca, po prostu idź dalej i albo wykonuj swoją pracę, albo odmów, powróć do swoich wartości, gdy już to zrobisz. masz na to ochotę, ale nie codziennie (lub na każdym papierze w tym przykładzie) i nie pytaj kolegów o to przy każdej okazji. Nie minimalizuję tego, firmy, które opracowują takie produkty, powinny i generalnie mają psychologów, którzy wspierają ludzi, którzy mogą poczuć się nieswojo w tej sytuacji. I pytają, czy potencjalnemu pracownikowi nie przeszkadza praca nad tego rodzaju produktem, ponieważ należy to przemyśleć. Ale te pytania prowadzą do wniosków, a naleganie na dyskusję jest po prostu zastraszaniem innych, by trzymali się twojego światopoglądu.

Podczas gdy niektórzy ludzie mają zastrzeżenia co do pracy z bronią (szczególnie bronią dostępną dla konsumentów) i głosują z odmawiając podjęcia pracy w tej dziedzinie, życie narzuca im się bardzo dobrze prosperujący przemysł obronny, uzbrojeni funkcjonariusze policji, siły zbrojne i tak dalej. Za istniejącą i rozwijaną bronią jest po prostu znacznie więcej głosów niż w inny sposób, czy się to podoba, czy nie, zgadza się z nią lub nie. A tym większe zapotrzebowanie na większą produkcję i rozwój broni.

Komentarze nie służą do rozszerzonej dyskusji;ta rozmowa została [przeniesiona do czatu] (https://chat.stackexchange.com/rooms/105144/discussion-on-answer-by-mefitico-ethical-concerns-regarding-the-review-of-a-pape).
Naukowcy muszą skupić się na działaniach i wynikach w tego typu sprawach.Zdecydowanie nie jest to rzecz jasna
„… to był ruch empatyczny…” Uważam takie słabo zawoalowane eufemizmy za zabawne.To sprawia, że zastanawiasz się, czy nauczyciel nie obrażał inteligencji uczniów, którzy mogli mieć etyczne obawy dotyczące projektu.Coś w rodzaju „albo jesteś prawdziwym patriotą, albo jesteś głupi”.Innym z nich jest kategoria `` obronna '' pola, kompanii itp., Co oznacza, że broń jest przeznaczona wyłącznie do obrony narodu, a zatem jest etycznie akceptowalna, podczas gdy w rzeczywistości jest znacznie bardziej prawdopodobne, że zostanie użyta do napaściinne suwerenne narody.
Odrzuciłem tę odpowiedź, ponieważ uważam, że argumentuje ona, że naukowcy nie powinni zajmować się etyką, z którą zdecydowanie się nie zgadzam.
Etyka powinna być podstawą każdej działalności człowieka.Pragmatyzm i „obiektywizm” w nauce są zagrożeniem dla ludzkości.
Uważam za kontrowersyjne, że ktoś, kto bezpośrednio czerpie korzyści z przemysłu zbrojeniowego, radzi naukowcowi, aby zignorował kwestionowanie morale i kontynuował recenzję artykułu.Zwróć uwagę, że naukowiec nie otrzymuje rekompensaty finansowej za tę recenzję, co przynajmniej daje mu pełną swobodę podążania za kompasem morale.
@DmitrySavostyanov: Radziłem odmówić recenzowania artykułu, pomijając pytania moralne w przypadku, gdy recenzent nalega na recenzję.Zwróć również uwagę, że nie masz całkowitej racji twierdząc, że naukowcy nie otrzymują rekompensaty finansowej za recenzje [patrz odpowiedzi w tym pytaniu] (https://academia.stackexchange.com/questions/68191/why-dont-researchers-request-payment-do sędziowania).
@DmitrySavostyanov Innym faktem jest to, że nie zawsze można żyć i prowadzić działalność gospodarczą / badawczą całkowicie wolną od konfliktu interesów, a chociaż konsekwencje konfliktu interesów muszą być kontrolowane, cenzurowanie opinii zainteresowanych stron jest również niemoralne(i często przynosi efekt przeciwny do zamierzonego).
Doceniam twoje komentarze i przemyślenia.Ja też zmagałem się z koncepcjami mojej pracy.Nie możesz tego przezwyciężyć i możesz zostać znieczulony, ale widok odwiedzonej śmierci i zniszczenia nie jest niczym innym.Chciałbym również narysować podobieństwa do wykorzystania drużyn snajperskich jako celów.Sami wybierali, kiedy i gdzie.Historie opowiadane w książkach pozostawiły jedno wspomnienie - o zespole obserwującym faceta, który je obiad, a kiedy skończył, strzelili mu w głowę.To złożony cel, a nasza moralność i prawa nie dogoniły tego, co jest możliwe.
Fakt, że narysowanie linii może być trudne, nie oznacza, że linii nie można narysować.
@henning--reinstateMonica i * nawet jeśli * nie można narysować linii, nie oznacza to, że nie powinieneś działać w przypadku, gdy uważasz, że problem jest daleko od potencjalnie niewyraźnej granicy.Długość linii brzegowej zależy od skali, na której ją mierzysz, ale wiem, że jest dłuższa niż moja stopa.
@llama dokładnie, to się nazywa błędem śliskiego zbocza.„Jeśli zakazujemy morderstw, w końcu zakazujemy samochodów, ponieważ ludzie giną w ruchu ulicznym”.
#5
+13
gerrit
2020-03-03 20:18:44 UTC
view on stackexchange narkive permalink

Możesz się nad tym zastanawiać. Recenzent nie przyjmuje ani nie odrzuca artykułu. Recenzent zaleca redaktorowi przyjęcie lub odrzucenie artykułu.

Jeśli uważasz, że czasopismo nie powinno być zaangażowane w badania nad bronią, zalecamy odrzucenie z powodów moralnych. Jeśli redaktor uważa, że ​​nie należy brać pod uwagę podstaw moralnych, lub uważa, że ​​badania nad bronią są etyczne, może zignorować twoje zalecenie.

Trudna decyzja należy do redakcji¹, a nie do recenzentów.

hr>

¹ Podjęcie bardziej ekstremalnych przykładów badań, które nie zaszkodziły bezpośrednio nikomu w metodologii, ale nadal mają zdecydowanie nieetyczne implikacje, jest l ćwiczeniem dla czytelnika. sup>

Dałoby to podstawy dla recenzentów religijnych do zalecenia odrzucenia artykułów sprzecznych z ich teologią.Nie sądzę, aby recenzent kiedykolwiek wydawał zalecenia dotyczące czegokolwiek innego niż naukowa treść artykułu.
@Persistence Jeśli recenzent uważa, że czasopismo nie powinno chcieć angażować się w badania nad aborcją, ma prawo to polecić.Redaktorzy najprawdopodobniej się nie zgodzą i prawdopodobnie nie zwrócą się ponownie do tej osoby jako recenzenta.Żadna krzywda.Myślę, że „czy to badanie jest etyczne?”jest istotnym pytaniem do rozważenia przez recenzentów, przypis w mojej odpowiedzi zawiera odnośnik wskazujący, w jakim kierunku myślę, gdy doszło do skrajności.
Zgadzam się z Gerritem.Istnieje wielowymiarowe kontinuum moralności.Ten przykład jest zdecydowanie w szarej strefie, gdzie rozsądni ludzie mogą się nie zgodzić, jak pokazują odpowiedzi.Ale dla indywidualnego recenzenta czarny lub biały może być łatwym wyborem.Redaktorzy stoją przed trudnym zadaniem pogodzenia wielu wejść.
#6
+12
einpoklum
2020-03-03 03:24:37 UTC
view on stackexchange narkive permalink

tl; dr: Pokaż kręgosłup i odrzuć artykuł.

@Applied akademicki przedstawił cztery kierunki działań w ich odpowiedzi; Mam na myśli te i możesz najpierw to przeczytać (ale nie musisz).

Moja rada brzmi:

  • Zacznij od (4): Sprawdź, czy czasopismo jest problematycznym miejscem. Mogłeś popełnić błąd, jeśli skojarzyłeś się z czasopismem, które od czasu do czasu legitymizuje zabójstwa i zmilitaryzowane śmiercionośne działania policji za pomocą dronów lub innych podobnych czynności.
  • Jeśli jest to problematyczny dziennik, po prostu kontynuuj ( 4).
  • Jeśli czasopismo rzadko lub nigdy nie publikuje takiej pracy: Zrób (1). Oznacza to, że odrzucić artykuł należy odrzucić ze względów etycznych. Fakt, że istnieją wytyczne etyczne i przyjęte zakazy, oznacza, że ​​masz wystarczająco dużo podstaw, aby twierdzić, że takie badania nie powinny być akceptowane, legitymizowane i rozpowszechniane za pośrednictwem czasopisma. Postaraj się przedstawić swój argument zarówno na zasadzie ogólnej, jak i - jeśli masz wiarygodne informacje o konkretnych badaniach, które recenzujesz - na przykładach nadużyć technologii dronów przez autorów, ich instytut, fundatorów lub ich rząd. Niestety, takich przykładów jest dziś mnóstwo w naszym świecie.

Jestem przeciwny opcjom (2), ponieważ narzekanie na brak „sekcji etycznej” sugeruje w sposób dorozumiany, że praca jest ogólnie bliska bycie prawowitym. Jestem również przeciwny opcji (3), ponieważ oznacza to, że „przeszedłeś na całość” - wykonałeś swoją rolę w publikacji tego artykułu i masz teraz nadzieję, że redaktor ma więcej kręgosłupa niż ty. Wątpliwe, że to zrobią, gdy zobaczysz, że się na to zgodziłeś.

Uwaga: @DanRomik podkreśla w komentarzu, że recenzent w rzeczywistości nie odrzuca ani nie przyjmuje artykułu, ale raczej zaleca akceptację lub odrzucenie. Warto o tym pamiętać, nawet jeśli (i ta odpowiedź) używamy terminów „odrzucić” lub „zaakceptować”.

Odrzucenie artykułu na podstawie tego rodzaju rozważań etycznych samo w sobie nie jest etyczne.
@puppetsock: 1. Według jakich standardów etycznych?2. Według OP, czasopismo to już podobno stosuje względy etyczne.
Warto wyjaśnić, że recenzenci nie odrzucają artykułów, a jedynie zalecają ich odrzucenie.A jeśli rekomendacja jest oparta na przyczynie, którą redaktor uzna za nieistotną dla zadania, o wykonanie którego poprosił recenzenta, po prostu wyślą artykuł do innego recenzenta.Więc jeśli nie sugerujesz OP, aby _ kłamać_ i odrzucić artykuł na podstawie fałszywych, zmyślonych powodów technicznych, to symboliczne odrzucenie protestu nie różni się niczym od zwykłego wycofania się z recenzji.
@DanRomik: 1. Podjęto kwestię, kto wykonuje ostatnie połączenie (chociaż czasami jest to mechaniczna formuła połączeń recenzentów).2. „Chyba że sugerujesz OP kłamstwo” <- Czy zasugerowałem coś takiego?Nie;więc po co robić taką aluzję?3. Jest zupełnie inaczej.Odrzucenie etyczne niesie ze sobą groźbę dalszych działań (publicznych), jeśli redaktor nie poprze tego.
@einpoklum zrozumiał, dzięki.Tak, zarówno twoja sugestia, jak i jej wyjaśnienie wydają mi się rozsądne.
Nie zgadzam się z „show backbone”.Jest to agresywna i obraźliwa rzecz do powiedzenia, ponieważ sugerujesz, że jeśli OP wybierze alternatywny sposób działania, to brakuje im kręgosłupa (podobnie jak każdy inny czytający twoją odpowiedź, który nie zgadza się, że to najlepsza rzecz do zrobienia).Proponuję również „pokazać kręgosłup” i edytować odpowiedź ... ;-)
@DanRomik: Implikacja dotyczy OP, ale nie dotyczy innych czytelników.OP wskazał, że ma problemy etyczne z gazetą, ale waha się, czy podjąć odpowiednie kroki.Więc tak, myślę, że jeśli pozwoli, by to, co uważał za wymówki, powstrzymywało go od działania, będzie wykazywał brak kręgosłupa.Mam nadzieję, że OP doceni tego rodzaju stanowczą postawę.
@DanRomik to pierwszy raz, kiedy usłyszałem tę frazę zinterpretowaną jako „agresywna” lub „obraźliwa”.
#7
+8
Scott Seidman
2020-03-03 20:17:35 UTC
view on stackexchange narkive permalink

Oczywiście masz wiele możliwości wyboru. Osobiście uważam, że jeśli zdecydujesz się odrzucić artykuł w oparciu o etykę uzbrojonych dronów, to robisz to, wyrażaj tę opinię w recenzji i zejdź ze sceny, powstrzymując się od recenzowania kwestii naukowych.

W ten sposób odnotowujesz swój sprzeciw, nie uczyniłeś się częścią złej sytuacji etycznej i dajesz redaktorowi możliwość zastosowania się do zaleceń lub zasięgnięcia dalszej analizy.

Druga skrajność to zalecam odrzucenie artykułu, nie mówienie, że dzieje się tak z powodów etycznych, i poszukiwanie naukowego uzasadnienia dla swojej rekomendacji. Osobiście rozważyłbym ten naukowy sabotaż i dlatego odradzałbym go.

Podstawą pośrednią jest wyrażenie swojego przekonania, ale przedstawienie rzetelnej naukowej recenzji. Uważam, że jest to trudne i stawia pod znakiem zapytania twoją recenzję. Powstrzymałbym się od tego.

Osobiście, gdybym miał to szczególne przekonanie moralne, po prostu skontaktowałbym się z redaktorem i odmówił przeglądu artykułu, podając dlaczego.

Przemysł obronny napędzał całą gamę technologii. Są tacy, którzy wspierają ten wysiłek. Rozumiem, że nie chcę być częścią tego, ale nakreśl swoją osobistą linię, jeśli chodzi o sabotowanie tej dziedziny za pomocą nieuczciwych recenzji. Są sposoby na to, aby twoje przekonania się spełniły - odrzuć recenzję, napisz list do redakcji do publikacji, pracuj na kierowniczych stanowiskach organizacji zawodowych, aby zakończyć politykę publikowania takich materiałów, zalecaj swojemu bibliotekarzowi, aby zaprzestanie subskrypcji itp.

#8
+7
cbeleites unhappy with SX
2020-03-04 01:58:48 UTC
view on stackexchange narkive permalink

Podsumowanie: obawy etyczne są stopniowe.

  1. Niektóre z nich są wystarczająco wystandaryzowane w środowisku akademickim (lub nawet w opinii publicznej) na całym świecie, że naruszenie tych standardów oznacza, że ​​artykuł powinien zostać odrzucony z powodów etycznych.

  2. Inne kwestie etyczne są bardziej osobiste w tym sensie, że recenzent może mieć je osobiście, ale nie są one tak powszechnie uzgodnione / ustandaryzowane, że autorzy powinni być przed nimi odpowiedzialni.
    OP powinien IMHO tolerować, że inni mogą mieć inny punkt widzenia na te obawy (2.).

    Jednak ogólne osobiste problemy etyczne (2.) często obejmują kwestie etyczne, które są powszechnie akceptowane ( 1.), ale w węższym zakresie. Te znowu są tematem do recenzji artykułu.


Proponuję nieco dokładniej przeanalizować (nie) etyczne punkty.

Nigdy nie miałem do czynienia z bronią badania, ale w moich doświadczeniach terenowych na zwierzętach są istotne, więc użyję ich jako przykładu, dla którego wziąłem pod uwagę moją osobistą etykę i dla którego spotkałem się również z etycznymi rozważaniami innych ludzi.

Oto mój punkt widzenia:

  • Czy nieetyczny punkt jest czymś, co jest „powszechnie” * uznane przez środowisko akademickie za nieetyczne czy nawet ogół społeczeństwa? Innymi słowy, czy istnieje obecnie konsensus głównego nurtu, który mówi, że jest to nieetyczne, a być może nawet ujednolicone formalne wymogi etyczne, które są naruszane? Jeśli tak, odrzuć je z powodów etycznych.

    Przykładami mogą być plagiat, przedstawianie fałszywych wyników lub obserwacji lub projekt badania, który jest uważany za nieetyczny zgodnie z zasadami, nad którymi pracują komisje etyczne (jeśli istnieją istotne lokalne różnice, oceniam według lokalnych przepisów, w których autorzy są).

    * Jestem na poziomie porozumienia, który jest silniejszy / szerszy niż „moi zawodowi przyjaciele się ze mną zgadzają”, a także silniejszy niż „moja lokalna społeczność” lub „moja religia mówi”: np. mój kraj ma bardziej rygorystyczne prawa (które przyjmuję jako substytut umów etycznych) dotyczące eksperymentów na ludziach niż niektóre inne kraje. Ale te różnice nie oznaczają, że inne społeczeństwo uważa, że ​​wyrządzenie krzywdy ludziom jest etycznie w porządku, różnice wynikają z niuansów w tym, gdzie dokładnie wytyczono granicę, ile cierpienia powoduje określona procedura, ile cierpienia uważa się za znośne, a ile cierpienia uważa się za warte zachodu. Zatem mogą istnieć przypadki, w których orzeczenie jest inne, ale w wielu przypadkach orzeczenie etyczne będzie zgodne. I właśnie o to mi tu chodzi: o „obecny konsensus głównego nurtu” (dzięki @ObscureOwl) obejmujący kontynenty, kraje, religie…

    (Nie sądzę, aby można było twierdzić, że każdy jedna osoba zgadza się na jakąkolwiek kwestię etyczną - ale proszenie o taką absolutną zgodę jest tutaj bezcelowe, ponieważ nie może być wykorzystane do ustalenia, czy czyjeś działania są nieetyczne: jeśli tylko się nie zgodzą, wymagana zgoda nie może być osiągnięty.)

  • Ale mogę mieć zastrzeżenia etyczne, które wynikają z mojego (OP) światopoglądu / filozofii / religii / ... i gdzie powiedziałbym, że osobisty sprzeciw jest całkowicie w porządku, ale tutaj ja (OP) muszę tolerować, że inni ludzie mają inne punkty widzenia. Tutaj

    • odrzucenie jak powyżej nie jest możliwe. Narzucenie autorom swojej osobistej opinii byłoby nadużyciem władzy przez recenzenta, a zatem byłoby to nieetyczne.

    • Mogę powiedzieć „Nie będę w żaden sposób kojarzył się z takimi badaniami” i odmówić bycia recenzentem.
      Niestety, to nie wystarczy pod względem ograniczenia nieetycznych badań.

    • Czasami zagłębianie się nieco w dlaczego dokładnie sprzeciwiasz się tym badaniom, może pomóc w znalezieniu bardziej konstruktywnego rozwiązania, ponieważ przeprowadzam przegląd oraz w uczciwy i odpowiedni sposób moje obawy zostały usłyszane.

    Ogólne osobiste obawy, które są wyrażane na bardziej szczegółowym poziomie, mogą przekładać się na obawy etyczne, które są powszechnie uzgodnione (w węższym zakresie niż problem bardziej ogólny) lub czasami również do punktów istotnych z naukowego punktu widzenia.


Przykład z badań medycznych

Kiedyś dostałem artykuł do recenzji, w którym wykorzystano i zabito ponad 100 gryzoni do badań. W artykule podano odpowiednią akceptację etyczną i właściwą obsługę (do tej pory spełniała powszechnie uzgodnione wymagania etyczne). Przebadali całą masę różnych warunków.
Wiele różnych warunków oznaczało, że w eksperymentalnych grupach było tylko niewiele zwierząt. Chociaż na pierwszy rzut oka dobrze byłoby nie powodować cierpienia większej liczby zwierząt, w rzeczywistości oznaczało to, że całe badanie było bezwartościowe, ponieważ nie można było wyciągnąć wiarygodnych wniosków. Można było to wiedzieć z góry.

W związku z tym mamy

  • naukowe obawy co do niewłaściwego planowania wielkości próby, co prowadzi do
  • zbyt niepewnych wyników badań jakąkolwiek wartość naukową, a to również prowadzi do
  • powszechnie uznawanej troski etycznej, że niepotrzebne cierpienie zostało zadane zwierzętom.

W innych słowa, ważne powody, by zalecić odrzucenie badania.


Zastosowanie do omawianej pracy

Jedną oczywistą różnicą między tym przykładem a zautomatyzowanymi ramionami jest to, że obawy dotyczące badań na zwierzętach dotyczą tego, co już zostało zrobione, podczas gdy wydaje mi się, że twoje obawy dotyczące broni automatycznej dotyczą raczej przyszłych konsekwencji w życiu codziennym.

Potraktuj jako eksperyment myślowy, że możesz pomyśleć o bardziej wyspecjalizowanych problemach, takich jak to, że proponowana technologia stwarza zagrożenie dla cywilów.

Chociaż, jak mówisz, zakaz broni automatycznej nie jest (jeszcze) powszechnie uzgodniony, AFAIK jest powszechnie uznawany, że cywilów nie należy narażać na niepotrzebne lub niepotrzebnie wysokie niebezpieczeństwo.

Wychodząc od tej węższej, ale uniwersalnej troski etycznej, podejrzewam z twojego opisu, że może istnieć kilka powiązanych problemów naukowych i technicznych z tym artykułem. Które są poważne ze względu na kwestie etyczne, które za nimi stoją.

Wydajność algorytmu jest oceniana na podstawie liczby przypadków, w których symulowany dron samodzielnie uderzył w cel.

Każda taka wartość może być co najwyżej częścią weryfikacji i walidacji algorytmu.

Weryfikacja musi obejmować szacowanie i raportowanie ryzyka dla ludności cywilnej: jeśli nie wiemy, czy algorytm stwarza niepotrzebne zagrożenie dla ludności cywilnej, nie możemy uznać, że jest odpowiedni do celu.

Osobiście podejrzewam, że ponadto istnieje tu kompromis polegający na tym, że trafienie większej liczby celów może równie dobrze kosztować uderzenie większej liczby cywilów. Jeśli to możliwe, funkcja punktacji, która nie karze uderzania cywilów, może być uważana za z natury nieodpowiednią nawet do celów programistycznych.

Często znajduję błędne procedury walidacji w artykułach o znacznie mniej niebezpiecznych tematach. Jeśli temat nie jest zbyt ważny, a wysiłek eksperymentalny mający na celu przeprowadzenie właściwej walidacji jest teraz nieproporcjonalny, często jestem w porządku, jeśli wynikające z tego ograniczenia są szczerze omówione.

Manuskrypt w pytaniach nie wydaje się nawet spełniać tego znacznie słabszego wymagania:

Autorzy nigdy nie omawiają możliwych problemów etycznych związanych z tą technologią,

(I przy tak krytycznym temacie chciałbym nalegać na odpowiednią walidację.)


nie mówią wprost, czy ta technologia będzie używana w prawdziwych dronach.

... tego mogą nie wiedzieć.

Powszechnie uzgodniona etyka?Czy kiedykolwiek istniało coś takiego?
Myślę, że „powszechnie uzgodnione” to kiepski dobór słów.Może coś w rodzaju „obecnego konsensusu głównego nurtu”?Ale myślę, że ta odpowiedź jest słuszna: niektóre etyki są dostatecznie „znormalizowane” i formalnie ujęte w polityce, którą można ** odrzucić ** opartą na nich pracę.W tym przypadku konsensus akademicki wydaje się zmierzać w kierunku zakazania PRAWA, ale tak się nie stało (jeszcze).
Więc nadal możesz odmówić przeglądu artykułu z własnych powodów etycznych.Czasopismo może wtedy poszukać innego recenzenta, jeśli zechce.Ale zajmując takie stanowisko, przesuwasz nieco ogólną dyskusję etyczną w kierunku zaprzestania wspierania badań nad PRAWEM.
@Bex: Dodałem wyjaśnienie, co mam na myśli, mówiąc o „uniwersalnym”.
@ObscureOwl: dziękuję za sugestię - mi się podoba (choć głównie trzymałem uniwersalność bo jest krótsza).Dodałem również dłuższe wyjaśnienie, co mam na myśli, co moim zdaniem jest nadal potrzebne w przypadku głównego nurtu, aby upewnić się, że główny nurt to nie tylko lokalny główny nurt w bliższej grupie partnerskiej OP.
I oczywiście odmowa recenzji to ważna opcja.Ale co najwyżej powie redaktorowi, że jest jeszcze jeden recenzent, który ma wątpliwości etyczne (jeśli formularz odrzucenia zawiera możliwość podania przyczyny i faktycznie jest on przeczytany).Autorzy nigdy się o tym nie dowiedzą z powodu zaślepienia, a jeszcze ważniejsze byłoby, aby autorzy dowiedzieli się o obawach, niż o tym, że redaktor dowie się o nich - w końcu to autorzy prowadzą badania OP.
#9
+4
puppetsock
2020-03-02 20:48:04 UTC
view on stackexchange narkive permalink

W kontekście recenzowania artykułu do publikacji, Twoim zadaniem nie jest Ratowanie Świata. Nawiązanie dialogu z autorami oznaczałoby postawienie siebie jako arbitra działań grupy ludzi. Redaktor czasopisma powinien, całkiem słusznie, odrzucić taki plan w ramach recenzji artykułu. Choć jest całkiem możliwe, że taki program mógłby zostać zaakceptowany poza kontekstem recenzji artykułu, czasopismo nie jest w żaden sposób zobowiązane do przestrzegania takiego planu.

Zasadniczo masz dwie możliwości. Możesz wycofać się z recenzji. Możesz też dokonać obiektywnej recenzji artykułu w oparciu o zawartość i zasady publikacji czasopisma.

Jeśli dany dziennik rutynowo publikuje takie informacje i nie możesz zaakceptować takich pozycji, które są moralne lub etyczne, wtedy powinieneś natychmiast ich poinformować, że nie powinieneś rozważać recenzowania takich artykułów.

Lekarstwem na mowę, z którą się nie zgadzasz, jest więcej mowy. Jeśli uważasz, że praca w tym artykule nie powinna była zostać wykonana, powinieneś opublikować swoją pracę, wyjaśniając dlaczego. Będą ujścia dla twoich stanowisk i argumentów. Jeśli będą to rozsądne argumenty oparte na rozsądnym rozumowaniu i ważnych danych, zostaną zaakceptowane.

Nie odrzuciłem twojej odpowiedzi.Jednak myślę, że część rozumowania leżącego u podstaw twojej odpowiedzi pozostaje ukryta za „obiektywnością” świata.Wielu zgodzi się, że artykuł należy ocenić obiektywnie, ale niewielu może zgodzić się, co to naprawdę oznacza.Twoja odpowiedź sugeruje, że jest oczywiste, że etyka i moralność są subiektywnymi, pozanaukowymi względami socjologicznymi i nie powinny być częścią procesu przeglądu.Czy możesz wyjaśnić, jakie Twoim zdaniem są czysto obiektywne kryteria?Czy nowość, znaczenie, przejrzystość czy szerokie zainteresowanie?
Zrobiłem.„… na podstawie treści i zasad publikacji czasopisma”.
„Lekarstwem na mowę, z którą się nie zgadzasz, jest więcej mowy”.Czy naprawdę myślisz, że * mowa * jest tutaj problemem?Powód, dla którego mógłbym sprzeciwić się komuś chodzącemu po okolicy i ucząc ludzi, jak budować broń, nie ma nic wspólnego z wolnością słowa, a wszystko z faktem, że ludzie mogą wykorzystać tę wiedzę i zbudować z niej broń.Tutaj związek jest jeszcze bardziej bezpośredni: badania, o których mowa, najprawdopodobniej zostały sfinansowane ze szczególnym zamiarem opracowania i rozmieszczenia takiej broni.Podobnie jak komentarze AA, twoje argumenty można łatwo dostosować do tych, które są przeciwne IRB.Czy sprzeciwiasz się IRB?
„… na podstawie treści i zasad publikacji czasopisma”.Pytam, co sprawia, że pewne kryteria są dopuszczalne, a inne nie.Nie jest zbyt satysfakcjonujące stwierdzenie, że będziemy ślepo przestrzegać kryteriów czasopisma.Wydawcy akademiccy istnieją po to, aby rozpowszechniać badania, które naukowcy uważają za ważne, a nie na odwrót.
@StellaBiderman „Mowa” jest tym, czego dotyczy recenzowanie artykułu w czasopiśmie.
Przeczytaj dosłownie, nie ma w tej odpowiedzi nic, z czym się nie zgadzam.Jednak w sposób dorozumiany zdecydowanie sugeruje, że „obiektywna recenzja artykułu oparta na treści i polityce publikacji czasopisma” jest niezgodna z ideą wzbudzania wątpliwości etycznych w recenzji - co jest bardzo prawdopodobne, że jest fałszywą dychotomią, ponieważ większośćw dziedzinach o znaczącym wpływie etycznym uznają tę etykę za ważną część ich rzetelności naukowej.Jeśli osoba odpowiadająca nie miała zamiaru takiej sugestii, sugeruję, aby to wyjaśniła;jeśli mieli taki zamiar, sugeruję, aby wyraźnie to uzasadniali.
Nigdy nie chciałem „Ratować Świata”, po prostu chcę wykonywać swoją część pracy.Zamknięcie oczu przed problemem nie jest rozwiązaniem.Fakt, że czasopismo nie ma polityki dotyczącej tego rodzaju artykułów, nie oznacza, że recenzenci nie powinni zgłaszać własnych obaw.Polityki nie są niezmienne, można je dostosowywać, gdy pojawiają się nowe problemy lub nowe punkty widzenia.Mimo to skłaniam się w tej chwili do napisania bezstronnej recenzji technicznej artykułu, przedstawiając jednocześnie swoje obawy etyczne zarówno redaktorowi, jak i autorom.
@richard * „Wiele osób zgodzi się, że artykuł należy oceniać obiektywnie, ale niewielu może zgodzić się co do tego, co to naprawdę oznacza.” * Standardy, według których czasopismo prosiło o recenzowanie artykułów?
Zrównanie nieuczestniczenia w przeglądzie z „zamknięciem oczu” jest tutaj częścią problemu.Nigdy nie powiedziałem, że musisz ignorować kwestię etyczną.Rzeczywiście, zasugerowałem, jak do tego podejść.Ale nie powinieneś tego robić jako recenzent artykułów w czasopismach.
#10
+2
Persistence
2020-03-04 22:12:30 UTC
view on stackexchange narkive permalink

Dla mnie odpowiedź jest dość prosta.

Zdecydowana większość społeczności naukowej nie uważa omawianej sprawy za nieetyczną (gdyby istniały przeciwko niej reguły). W konsekwencji, niezależnie od tego, czy uważasz, że jest to nieetyczne, czy nie, nie ma większego znaczenia, Twoje poglądy nie powinny wpływać na zdolność maszyny naukowej do dokonywania postępów.

Więc twoje wybory są wycofywane i nie udzielaj żadnych rekomendacji co się dzieje z artykułem lub o przejrzeniu artykułu pod względem merytorycznym i pozostawieniu dyskusji na temat etyki właściwemu forum, które nie jest procesem recenzji.

Dziękuję za opinię.Twoje założenie jest logicznie błędne, fakt, że nie ma reguł przeciwko konkretnemu elementowi technologii, nie oznacza, że większość społeczności naukowej uważa ją za etyczną.Częściowo zgadzam się z Tobą co do drugiej części odpowiedzi.
Żeby było jasne, nie powiedziałem, że jest to uważane za etyczne przez większość społeczności naukowej. Powiedziałem, że nie jest uważane za nieetyczne przez zdecydowaną większość ... Jest tam subtelna różnica.Wyobrażam sobie, że większość ludzi (łącznie ze mną) jest obecnie na płocie w tej sprawie.Chodzi mi o to, że społeczność z pewnością nie jest zjednoczona przeciwko badaniom.
Dziękuję za wyjaśnienie, jednak błąd w tym założeniu nadal pozostaje, nawet po przeformułowaniu.Jednym z możliwych sposobów poznania stanowiska społeczności naukowej byłaby ankieta na dużą skalę, której nie można wywnioskować z faktu, że nie ma żadnych reguł przeciwko czemuś.Zgadzam się z Tobą, że stanowisko etyczne nie powinno wpływać na odrzucenie / przyjęcie artykułu (oczywiście tylko w przypadku, gdy te obawy nie są częścią oficjalnych wytycznych).
Nie, nadal się nie zgadzam ... Fakt, że nie ma przeciwko temu przepisów, jest sam w sobie dowodem, że nie ma przeciwko temu konsensusu.W przeciwnym razie byłoby moratorium.
@Persistence Nie ma reguły, aby głośno śpiewać rapowe piosenki podczas spotkania na wieczór z grą planszową, ale prawie we wszystkich przypadkach mogę sobie wyobrazić, że większość uczestników nie byłaby z tym szczególnie fajna.Jedyną rzeczą, jaką możesz wywnioskować z nieistnienia reguły, jest to, że ludzie jeszcze jej nie stworzyli.Z istnienia reguły można wywnioskować, że było wystarczające poparcie, aby ją wprowadzić (co niekoniecznie musi oznaczać większość w zależności od kontekstu).Ale w sumie jest to logiczna jednokierunkowa ulica.
@Persistence btw.coś może być nieetyczne, gdy popiera je większość.Ludobójstwa są generalnie nieetyczne, ale większość krajów, w których występują, często jest dla nich przychylna lub neutralna.Ogólnie rzecz biorąc, środowisko akademickie jest pod wieloma względami stosunkowo nieuregulowaną subkulturą, w której obowiązuje stosunkowo niewiele zasad i decyzji ad hoc.Im większe jest zaufanie do etyki osobistej i tym więcej powodów, aby mieć o nich jasność.
#11
+2
Carl Christian
2020-03-05 04:23:12 UTC
view on stackexchange narkive permalink

Chciałbym przejrzeć artykuł i wskazać, że bardzo praktyczne ograniczenia tej pracy nie są jasno określone.

Ostatecznym celem tych badań jest jasne skonstruowanie autonomicznego systemu broni, który może działać na pole walki. Otóż ​​wszelka wojna podlega prawu. Obejmuje to zasadę proporcjonalności. Zasada proporcjonalności dopuszcza szkody uboczne i ofiary wśród ludności cywilnej, o ile straty te nie są nadmierne w porównaniu z bezpośrednią przewagą militarną wynikającą z ataku.

Jest jasne, że autorzy nie wzięli pod uwagę zasady proporcjonalności, ponieważ ich algorytm punktacji nie bierze pod uwagę wartości celu wojskowego i nie ma pojęcia o szkodzie ubocznej lub utracie życia cywilnego. Wynika z tego, że każdy autonomiczny system uzbrojenia sterowany za pomocą ich algorytmu będzie miał duży potencjał łamania praw wojny. Dlatego ich badania mają ograniczoną wartość praktyczną i jako uczeni są zobowiązani do jasnego określenia takich ograniczeń.

Jeśli odejdziesz na bok, nie ma gwarancji, że te bardzo praktyczne ograniczenia zostaną wspomniane. Co ważniejsze, czytelnikom nie zostanie przypomniane prawo wojenne.

W tym artykule znajduje się dobre podsumowanie prawnych zasad prowadzenia wojny. Główny nacisk położono na zasadę proporcjonalności.



To pytanie i odpowiedź zostało automatycznie przetłumaczone z języka angielskiego.Oryginalna treść jest dostępna na stackexchange, za co dziękujemy za licencję cc by-sa 4.0, w ramach której jest rozpowszechniana.
Loading...