Forschergeist
Horizonte für Bildung und Forschung
https://forschergeist.de


FG016 Open Science

Auf dem Weg zu einem neuen Modell wissenschaftlichen Publizierens und Forschens

Das klassische Modell des wissenschaftlichen Publikationsprozesses ist in die Jahre gekommen. Die Rahmenbedingungen, die die heutige Struktur hervorgebracht haben, verlieren immer mehr an Bedeutung oder sind bereits komplett weggefallen. Zudem schicken sich mit Open Access und Open Science Konzepte an, neue Blaupausen für die Wissenschaft in der Zukunft zu liefern.

Wir sprechen mit Nikolaus Kriegeskorte, der sich im Rahmen seiner Forschertätigkeit am Forschungsstandort der "Brain and Cognition Unit" des MRC in Cambridge, England, nicht nur mit dem Verständnis von Lernen und künstlicher Intelligenz auseinandersetzt, sondern auch die Widersprüchlichkeiten des geltenden Publikationssystems in Frage stellt und neue Methoden der Publikationspraxis fordert und fördert. Wir sprechen über die Zwänge etablierter Kommunikationskanäle und die Möglichkeiten, ein neues System für Peer Review und Reputation aufzubauen, das den Anforderungen des 21. Jahrhunderts und den Chancen der digitalen Vernetzung gerecht wird.

https://forschergeist.de/podcast/fg016-open-science/
Veröffentlicht am: 10. August 2015
Dauer: 1:52:53


Kapitel

  1. Intro 00:00:00.000
  2. Begrüßung 00:00:44.775
  3. Neurowissenschaften 00:02:57.749
  4. Neuronale Netzwerke 00:06:24.879
  5. Forschen und Publizieren 00:13:27.066
  6. Rolle der Gutachter 00:28:40.224
  7. Prestige der Journals 00:34:08.770
  8. Probleme mit dem aktuellen System 00:43:20.781
  9. Open Science 01:12:06.572
  10. Konferenzen und Vorabveröffentlichungen 01:32:51.054
  11. Kollektiver Kognitionsprozess 01:41:05.828
  12. Abschluss 01:51:03.226

Transkript

Tim Pritlove
0:00:45
Nikolaus Kriegeskorte
0:01:22
Tim Pritlove
0:01:24
Nikolaus Kriegeskorte
0:01:31
Tim Pritlove
0:02:07
Nikolaus Kriegeskorte
0:02:09
Tim Pritlove
0:02:10
Nikolaus Kriegeskorte
0:02:11
Tim Pritlove
0:02:21
Nikolaus Kriegeskorte
0:02:24
Tim Pritlove
0:02:57
Nikolaus Kriegeskorte
0:03:05
Tim Pritlove
0:03:43
Nikolaus Kriegeskorte
0:03:48
Tim Pritlove
0:04:57
Nikolaus Kriegeskorte
0:05:00
Tim Pritlove
0:06:30
Nikolaus Kriegeskorte
0:06:35

Ja.

Tim Pritlove
0:06:36
Nikolaus Kriegeskorte
0:06:37

Die haben eine lange Geschichte. Die Geschichte der neuronalen Netze ist so lang, wie die Geschichte der modernen Computertechnologie. Also Alan Turing und John von Neumann, die Väter der modernen Computertechnologie, die hatten alle Ideen dazu, die vom Gehirn inspiriert waren. Die haben Diagramme gezeichnet mit künstlichen Neuronen und sich überlegt, wie die interagieren können. Und dann in den 40er Jahren gab es die Binary Threshold Unit von McCulloch and Pitts. Das war ein abstraktes mathematisches Modell eines Neurons, wo eine solche Unit, die kriegt ganz viele Eingabewerte. Das ist ein Muster von Eingabewerten. Das könnte ein Bild sein oder das könnte eine andere Sinneswahrnehmung sein. Und dann vergleicht sie diese Muster mit einem Referenzmuster und wenn die Ähnlichkeit groß genug ist, gibt sie eine 1 aus und sonst eine 0. Und das war eine riesige Inspiration für die Neurowissenschaft. Weil dieses Muster der vielen einlaufenden Signale und des einen auslaufenden Signals dem Funktionsprinzip eines Neurons ähnelt, wo man den Dendriten-Baum hat, kriegt ganz viele Eingaben und das Neuron feuert dann entweder oder feuert nicht und gleichzeitig ist dieses abstrakte mathematische Modell eine Annäherung an Kategorisierung und das ist so ein hoher kognitiver Prozess. Und die Tatsache, dass dieses Modell, diese Bücke baut zwischen dem Neuron, dem basalen Baustein des Gehirns und diesem hohen kognitiven Prozess der Kategorisierung das war eine wahnsinnige Inspiration für das Feld. Und dann haben Leute mit diesen Modellen gespielt und in den 60er Jahren haben sie gelernt, wie man komplexere Modelle mit vielen Neuronen und mit mehreren Lagen trainieren kann und das hat die Kognitionswissenschaft in den 80er Jahren revolutioniert. Allerdings funktionierten diese Modelle nicht wirklich als Wahrnehmungssysteme für die künstliche Intelligenz. Die waren nicht wirklich erfolgreich. Also wenn man denen dann reale Bilder zeigte und die sollen dann da die Objekte aufzählen, so wie wir in unserem Beispiel eben, wo der Doktorand hier rein guckt. Wenn man ein Foto machen würde von uns, und man würde jetzt aufzählen, zwei Menschen männlich, Laptop, Computer, Tisch, Kaffeetasse. Das war nicht möglich mit diesen Systemen. Und das hatte komplizierte Gründe und hat einige KI-Forscher und Informatiker dazu geführt, anzunehmen, dass das ganze Prinzip der gehirninspirierten künstlichen Intelligenz fehlgeleitet ist. Ich erinnere mich, als ich Informatikvorlesungen besucht habe in Köln, der Professor war überhaupt nicht überzeugt von neuronalen Netzen. Er hat das Thema behandelt, aber ziemlich abfällig. Also es war ganz klar, dass er nicht glaubt, dass das der richtige Weg ist. Und er hatte da gute Gründe für. Aber es gab in der Zwischenzeit eine kleinere Gruppe, also während die Informatik und die KI den neuronalen Netzen dann in den 90ern und Anfang des neuen Jahrhunderts den Rücken zugewandt hat, gab es eine kleinere Gruppe von Forschern, die da weitergemacht haben und seit 2006 sind die langsam erfolgreich geworden und im Moment vollzieht sich da gerade eine große Revolution, wo tiefe neuronale Netze mit neuen Lernalgorithmen verschiedene Bereiche der künstlichen Intelligenz revolutionieren. Und einer dieser Bereiche ist das Computersehen und das ist halt auch relevant für meinen Bereich. Weil wir wollen ja Computermodelle des biologischen visuellen Systems bauen und das heißt, wir brauchen dieselbe Technologie. Unsere Ziele sind andere Ziele. Wir wollen Systeme, die sowohl sehen können als auch Aktivitätsmuster in Gehirnen vorhersagen. Die also als Modelle für den Prozess im menschlichen Gehirn fungieren können.

Tim Pritlove
0:11:42
Nikolaus Kriegeskorte
0:11:44
Tim Pritlove
0:12:35
Nikolaus Kriegeskorte
0:13:00
Tim Pritlove
0:13:25
Nikolaus Kriegeskorte
0:14:54
Tim Pritlove
0:16:08
Nikolaus Kriegeskorte
0:16:22
Tim Pritlove
0:16:29
Nikolaus Kriegeskorte
0:16:31
Tim Pritlove
0:17:34
Nikolaus Kriegeskorte
0:17:37
Tim Pritlove
0:19:27
Nikolaus Kriegeskorte
0:19:31
Tim Pritlove
0:19:58
Nikolaus Kriegeskorte
0:20:01
Tim Pritlove
0:21:14
Nikolaus Kriegeskorte
0:21:30
Tim Pritlove
0:22:54
Nikolaus Kriegeskorte
0:23:06
Tim Pritlove
0:23:24
Nikolaus Kriegeskorte
0:23:28
Tim Pritlove
0:24:33
Nikolaus Kriegeskorte
0:24:34
Tim Pritlove
0:24:36
Nikolaus Kriegeskorte
0:24:41
Tim Pritlove
0:26:12
Nikolaus Kriegeskorte
0:26:22
Tim Pritlove
0:26:32
Nikolaus Kriegeskorte
0:26:39
Tim Pritlove
0:26:46
Nikolaus Kriegeskorte
0:26:47
Tim Pritlove
0:26:57
Nikolaus Kriegeskorte
0:27:11
Tim Pritlove
0:27:30
Nikolaus Kriegeskorte
0:27:38
Tim Pritlove
0:28:40
Nikolaus Kriegeskorte
0:29:56
Tim Pritlove
0:30:53
Nikolaus Kriegeskorte
0:30:54
Tim Pritlove
0:31:41

Ja.

Nikolaus Kriegeskorte
0:31:41
Tim Pritlove
0:31:49
Nikolaus Kriegeskorte
0:31:51
Tim Pritlove
0:32:58
Nikolaus Kriegeskorte
0:33:02
Tim Pritlove
0:33:11
Nikolaus Kriegeskorte
0:33:15
Tim Pritlove
0:34:14
Nikolaus Kriegeskorte
0:34:21
Tim Pritlove
0:35:28
Nikolaus Kriegeskorte
0:35:38
Tim Pritlove
0:36:28
Nikolaus Kriegeskorte
0:37:09

Traditionell nicht. Und in den meisten Journals nicht. Manche neuen Journals experimentieren damit, die Gutachter zu nennen oder die Gutachten zu veröffentlichen. Aber ein Problem mit dem gegenwärtigen System ist, dass das Hauptsignal für die Qualität eines neuen Artikels ist das Prestige des Journals. Und die ganzen detaillierten Informationen, die im Prozess der Bewertung des Peer-Reviews produziert werden, zum Beispiel die gutachten, das sind ja Expertengutachten, wo sehr viel Zeit und Arbeit rein fließt, die bleiben alle geheim. Und das System führt zu so einer geheimniskrämerischen Kultur, wo die Wissenschaftler sich hinter ihrem rücken anonym gegenseitig abschießen unter Umständen häufig. Oder unterstützen, vielleicht banden bilden manchmal. Und gleichzeitig versuchen natürlich die meisten Wissenschaftler, da objektiv zu bleiben, aber der Anreiz ist ganz klar, je weniger objektiv und je eigennütziger man da handelt, desto größer ist der eigene Einfluss und desto weniger Zeit verschwendet man auf diesen Evaluationsprozess. Und das ist ein sehr ungesunder Anreiz. Das bedeutet für den einzelnen jetzt, dass er da ständig in so einem, also entweder hat er da gar kein Problem mit und hat das System sozusagen für sich angenommen oder wenn er idealistischer ist, dann leidet er darunter in der einen oder anderen Form. Also für mich bedeutet es zum Beispiel wenn ich einen Artikel für Nature oder Science beurteilen muss, dass ist eine Herausforderung, weil das ist sozusagen eine Entscheidung, die ist sehr wichtig für die Karriere dieses Menschen. Und gleichzeitig eine unmögliche Entscheidung, notwendigerweise subjektive Entscheidung, weil es praktisch drum geht, ob der Artikel nicht nur sehr gut ist, sondern ob er erderschütternde Konsequenzen hat für die Zukunft dieses Feldes. und das zu beurteilen erfordert eine Abschätzung der Richtung, in die das Feld sich bewegen wird und ist deshalb notwendigerweise subjektiv. Das heißt ich habe da eine Macht, die ich einfach nicht haben sollte eigentlich.

Tim Pritlove
0:39:56
Nikolaus Kriegeskorte
0:39:56
Tim Pritlove
0:40:19
Nikolaus Kriegeskorte
0:40:34
Tim Pritlove
0:41:45
Nikolaus Kriegeskorte
0:42:17
Tim Pritlove
0:43:21
Nikolaus Kriegeskorte
0:43:37
Tim Pritlove
0:44:42
Nikolaus Kriegeskorte
0:44:45
Tim Pritlove
0:46:23
Nikolaus Kriegeskorte
0:46:32
Tim Pritlove
0:48:09
Nikolaus Kriegeskorte
0:48:34
Tim Pritlove
0:49:41
Nikolaus Kriegeskorte
0:50:04
Tim Pritlove
0:50:07
Nikolaus Kriegeskorte
0:50:10

Gutachten, die gutachten in der Länge können die von einem abschnitt über eine Seite bis zu zehn Seiten lang sein. Also typische Länge wäre vielleicht 1-2 Seiten und das ist schon detailliertes Argument normalerweise über das Paper und normalerweise konstruktiv. Das fängt oft mit einer allgemeinen Einschätzung an und geht dann in die Details dessen, was verbessert werden soll. Und als junger Reviewer war das für mich, habe ich da versucht, die Argumente für und wider zu betonen, um diesem binären Urteil, was mir subjektiv und unter Umständen nicht gerechtfertigt erschien aus dem Weg zu gehen. Allerdings lernt man in diesem Prozess, dass das dazu führt, dass selbst Artikel, wo die Probleme sehr groß sind, tatsächlich nicht abgelehnt werden. Und dann kriegt man den Artikel wieder und dann haben die Autoren da nochmal sechs Monate dran gearbeitet und dann fällt es schwer, den in dieser Phase dann noch abzulehnen. Und wenn er wirklich nicht gut ist, wenn man wirklich nicht glaubt, dass sich da was retten lässt, dann lernt man als erfahrener Gutachter, doch zu diesem eher binären Urteil zu kommen. Es ist trotzdem ein detailliertes Argument und soll auch ein Argument sein, was konstruktiv ist und was den Autoren hilft, in der nächsten Phase, wenn sie es dann bei anderen Journals versuchen, dann da einen besseren Artikel einzureichen. Aber trotzdem ist oft gutachten auf dieser hohen ebene so ein binäres Urteil implizit und es geht schon darum, zu entscheiden, die Editoren, die entscheiden das natürlich, formell die Gutachter entscheiden das nicht, aber tatsächlich ist es oft sehr klar, was die Gutachter, ob die Gutachter finden, dass der Artikel in dieses Journal gehört oder nicht.

Tim Pritlove
0:52:27
Nikolaus Kriegeskorte
0:52:34
Tim Pritlove
0:52:35
Nikolaus Kriegeskorte
0:52:42
Tim Pritlove
0:52:51
Nikolaus Kriegeskorte
0:53:01
Tim Pritlove
0:54:22
Nikolaus Kriegeskorte
0:54:33
Tim Pritlove
0:54:56
Nikolaus Kriegeskorte
0:55:00

Ja. Also man muss halt Wege finden, mit den alten Gewohnheiten zu brechen und man muss darüber nachdenken. Man hat eh schon viel zu tun und jetzt soll man plötzlich alles ganz anders machen und wenn man dann damit anfängt, dann sind damit Kosten verbunden. Einfach mal ganz konkret aus meiner Sicht, ich sage zum Beispiel, alle gutachten sollen öffentlich sein. Ich schreibe ja selbst gutachten. Also ein schritt, den man tun kann ist, seine gutachten alle zu unterschreiben, das mache ich jetzt. Aber das ist natürlich mit einem gewissen Risiko verbunden, weil ich will ja nicht immer nur Positivgutachten und wenn ich dann Artikel ablehne und dann unterschreibe, dann sind die Autoren da ganz bestimmt nicht glücklich drüber. Und da besteht die Gefahr, dass man sich da Feinde macht. Das ist jetzt zum Beispiel eine unmittelbare Herausforderung da. Der zweite Aspekt ist, wir wollen die gutachten veröffentlichen. Jetzt gibt es die Internettechnologie. Ich habe ja ein Blog, da kann ich auf meinem Blog im Prinzip meine gutachten veröffentlichen und das ist mein plan. Aber das fällt mir sehr schwer, weil ich eh viel zu tun habe und jetzt im Moment meine gutachten ja noch in dem alten System schreibe. Also das Journal wendet sich an mich, ich schreibe das gutachten und das gutachten ist ja auch geheim und die Ergebnisse sind offiziell geheim, obwohl vielleicht schon bei Konferenzen vorgestellt. Und deshalb kann ich mein gutachten nicht in dem Moment veröffentlichen, wo ich das gutachten schreibe.

Tim Pritlove
0:56:58
Nikolaus Kriegeskorte
0:57:04
Tim Pritlove
0:58:43
Nikolaus Kriegeskorte
0:58:45
Tim Pritlove
0:58:57
Nikolaus Kriegeskorte
0:58:58
Tim Pritlove
1:00:27
Nikolaus Kriegeskorte
1:00:31
Tim Pritlove
1:00:47
Nikolaus Kriegeskorte
1:01:03
Tim Pritlove
1:01:48
Nikolaus Kriegeskorte
1:01:49
Tim Pritlove
1:02:10
Nikolaus Kriegeskorte
1:02:19
Tim Pritlove
1:02:57
Nikolaus Kriegeskorte
1:03:01
Tim Pritlove
1:03:30
Nikolaus Kriegeskorte
1:03:34
Tim Pritlove
1:04:42
Nikolaus Kriegeskorte
1:04:43
Tim Pritlove
1:04:44
Nikolaus Kriegeskorte
1:04:47

Genau, das ist genau der Punkt. Die Frage ist, was ist der Mehrwert, den die Verleger beisteuern? Was verkaufen die uns eigentlich? Das ist immer eine interessante Frage, ich erinnere mich an einen Dokumentarfilm, den ich in den 90er Jahren gesehen habe, der heißt Manufactoring Concent und da wurde Noam Chomsky interviewt und wenn ich mich richtig erinnere, sprach er darüber, was die New York Times verkauft und ich glaube sein Argument war, die New York Times verkauft nicht etwa Zeitungen, sondern die New York Times verkauft Leserschaften an Werber. Und das hängt einfach damit zusammen, wie viel Geld die halt durch Werbung kriegen und wie viel Geld durch den verkauf von Zeitschriften. Das ist natürlich sehr wichtig, zu wissen, um die Motivation zu verstehen. Und nachdem ich dann in Amerika gelebt habe und immer die New York Times gelesen habe, weil die ja eine wahnsinnig tolle Zeitung ist, wahnsinnig gut geschrieben und unterhaltsam. Aber gleichzeitig würde ich schon sagen, dass man das merkt, was die finanziellen Motivationen sind dahinter. Und was dabei rauskommt ist halt so eine Art Schlaflied für das Leben in Amerika, auf sehr hohem Niveau. Und bei den wissenschaftlichen Verlegern müssen wir auch fragen, was ist es eigentlich, was die uns verkaufen? Und was die uns jetzt noch verkaufen, wenn sie Open Access, wenn sie den zugriff nicht mehr verkaufen können, das wird immer schwieriger für sie, wegen der Open Access Bewegung, den zugriff auf wissenschaftliche Artikel zu verkaufen. Aber was sie uns weiterhin verkaufen ist ihr Evaluationsprozess. Die Prestigelabels der Journals, die wahnsinnig wichtig sind für die Wissenschaft, um die Literatur zu priorisieren und damit wir auswählen können, was wir lesen, und damit wir uns selbst profilieren können und das ist halt für unsere Karriere wichtig. Und das heißt was auch immer das Publikationssystem ist, es muss diese beiden Hauptfunktionen erfüllen, den zugriff und die Evaluation. Wir brauchen den zugriff, damit wir alles lesen können, was veröffentlicht wird und wir brauchen die Evaluation, damit wir nicht alles lesen müssen, damit wir die Spreu vom Weizen unterscheiden können und auswählen können, was wir lesen.

Tim Pritlove
1:07:50
Nikolaus Kriegeskorte
1:07:57
Tim Pritlove
1:08:12
Nikolaus Kriegeskorte
1:08:17
Tim Pritlove
1:08:19
Nikolaus Kriegeskorte
1:08:20
Tim Pritlove
1:09:07
Nikolaus Kriegeskorte
1:09:24
Tim Pritlove
1:10:12
Nikolaus Kriegeskorte
1:10:15
Tim Pritlove
1:10:16
Nikolaus Kriegeskorte
1:10:17
Tim Pritlove
1:10:30
Nikolaus Kriegeskorte
1:10:32
Tim Pritlove
1:12:07
Nikolaus Kriegeskorte
1:13:00
Tim Pritlove
1:13:45
Nikolaus Kriegeskorte
1:14:06
Tim Pritlove
1:15:18
Nikolaus Kriegeskorte
1:16:22
Tim Pritlove
1:16:25
Nikolaus Kriegeskorte
1:17:39
Tim Pritlove
1:17:42
Nikolaus Kriegeskorte
1:17:54

Ja, eine ganz einfache Variante wäre, dass man diese Bewertungen vielleicht auf einer Skala von 0-99 und dann die erste Skala wäre vielleicht die Signifikanz oder Wichtigkeit des Artikels und die zweite Skala die Verlässlichkeit der Titelbehauptung. Wenn man einfach diese Bewertungen mittelt, dann hat man ein Profil der Bewertung, was schon sehr nützlich wäre und was, wenn mindestens ein dutzend Bewertungen da eingeflossen wären und wenn man diesen Bewertungen trauen kann, insofern als dass die Bewerter zu ihren Bewertungen stehen und unterschreiben, dann wäre das ein viel verlässlicheres Signal, als wie wir es bisher haben. Und zusätzlich zu dem Mittelwert hätte man dann auch die Verteilung der Bewertungen, also wie konsistent die Bewertungen sind über die verschiedenen Bewerter hinweg und das würde uns in die Lage versetzen halt statistische Inferenz zu betreiben und zu fragen, ob wenn ein Artikel eine höhere Bewertung hat als ein anderer Artikel, ob das tatsächlich ein signifikanter unterschied ist oder ob das im Bereich der Zufallsvariationen sich bewegt. Also das wäre sozusagen ein naives System dafür, diese Bewertungen zu kombinieren, um dann die gesamte Literatur zu priorisieren. Tatsächlich kann man sich natürlich ganz viele verschiedene Systeme vorstellen dafür. Wie man zum Beispiel die verschiedenen Skalen dann gewichtet, um dann eine einzige Rangfolge der Literatur zu erzeugen. Und da gibt es ganz viele Entscheidungen zu treffen, zum Beispiel soll es hauptsächlich drum gehen, wie interessant oder inspirierend der Artikel ist oder soll es darum gehen, wie verlässlich die Behauptungen sind. Wenn es nur das letztere ist, dann werden die erfolgreichsten Artikel vielleicht ganz langweilige Artikel, die extrem verlässlich sind. Tatsächlich brauchen wir all diese Skalen und es muss möglich sein, die ganze Literatur halt nach all diesen Kriterien zu ordnen oder auch die Urteile in verschiedener Weise miteinander zu kombinieren. Zum Beispiel mit verschiedenen Gewichtungen dieser Kriterien. Und aus meiner Sicht, was wir da brauchen ist eine Art Gewaltenteilung zwischen dem System, was diese Urteile sammelt, sowohl die gutachten und das ist Text und Argumente, die jeder lesen kann, wenn er will. Als auch die numerischen Bewertungen. Das ist die eine Gewalt. Das ist das System, das Open Evaluation System, was die Urteile sammelt. Und dann auf der anderen Seite brauchen wir Systeme, die diese Urteile kombinieren, um die Literatur zu priorisieren und den zugriff zu vereinfachen. Und das wäre dann zum Beispiel, es gäbe dann so Webportals, die würden die Funktion von Journals erfüllen. Die sich auf einen bestimmten Inhaltsbereich konzentrieren, um als Interface zu fungieren für eine bestimmte Gruppe, zum Beispiel Neurowissenschaftler.

Tim Pritlove
1:21:38
Nikolaus Kriegeskorte
1:21:45

Könnte, ja genau. Und so ein Webportal würde dann halt die neuen Artikel zeigen und die Artikel, die höhere Bewertungen haben, nach einer Formel, die dieses Webportal definiert, die werden dann sichtbarer auf der Website. Allerdings kann jeder seine eigene Formel erfinden und die Basis, die Evidenz, die Urteile auf den diese Formeln beruhen, sind alle öffentlich zugreifbar. Das heißt der gesamte Prozess ist total transparent und wenn man sagt zum Beispiel, mir gefällt die Auswahl nicht, die Society for Neuroscience zum Beispiel hat ihr Webportal, wo sie die Literatur priorisiert und mir gefällt das aber nicht, weil ich festgestellt habe, dass ich da häufig wichtige Artikel verpasse zum Beispiel. Dann kann ich auch meine eigene Formel definieren und kann zum Beispiel sagen, Bewertungen von etablierten Wissenschaftlern will ich nicht berücksichtigen, ich verlasse mich auf die Urteile von Doktoranden und Postdocs zum Beispiel oder umgekehrt, vielleicht finde ich, dass Doktoranden nicht erfahren genug sind und schließe die aus aus meinen Bewertungen für meine Rangfolge. Oder ich möchte Wissenschaftler, die in bestimmten Bereichen arbeiten, die relevanter sind für mich, deren Urteile höher gewichten. Man hätte da die Möglichkeit, halt jede beliebige Formel zu verwenden. Und die Tatsache, dass es so eine Pluralität gäbe von Bewertungsformeln würde auch dazu führen, dass es sehr schwer wird, das System zu gamen. Also irgendwie seine eigenen Artikel da zu pushen, weil es eben diese Pluralität gibt von Bewertungssystemen. Also zum Beispiel Bewertungen müssten möglich sein, die man unterschreibt, aber auch anonyme Bewertungen müssen möglich sein, das ist sehr wichtig, weil man Argumente abgreifen will aus der wissenschaftlichen Gemeinschaft, deren Autoren vielleicht soziale Folgen fürchten. Also stellt sich zum Beispiel vor, dass ein junger Doktorand ein Problem sieht in einem Artikel von einem sehr berühmten Lab und vielleicht ist das ein brillantes Argument, was nachweist, dass dieser Artikel vollkommen falsch ist, aber der Doktorand traut sich nicht, da seinen Namen drunter zu setzen. Dann muss er die Möglichkeit haben, das auch anonym zu dem Prozess beizutragen. Und so werden wir dann anonyme und unterschriebene Urteile und gutachten in dem System haben. Und wir werden einen Weg finden müssen, die zu gewichten und verschiedene Webportals mögen das verschieden lösen.

Tim Pritlove
1:25:07
Nikolaus Kriegeskorte
1:25:25
Tim Pritlove
1:26:24

Da ich ja auch selber so einen Computerhintergrund habe, und sagen wir mal nicht identische, aber zumindest vergleichbare Prozesse ja auch sehe, in der Veröffentlichung von Computercode. So Phänomene wie Github, wo ja auch Unmengen an Sourcecode sichtbar ist und Bewertungen also nicht unbedingt eine primäre rolle spielen, weil Software und Wissenschaft ist dann schon nochmal zwei verschiedene Felder. Aber wo man auf jeden Fall gesehen hat, wie unglaublich positiv dieser öffentliche Umgang mit Code sich auf die komplette Szene ausgewirkt hat. Also welchen unheimlichen Schub das Softwareengineering an sich bekommen hat durch so eine öffentliche Plattform. Nicht nur Github, aber vor allem Github, also überhaupt das Veröffentlichen von Software und auch der Umgang mit Änderungen. Also dass man mit verteilten Versionssystemen explizit tracken kann, wurde dieser Code hat sich auf diese oder jene Art verwendet. Person XY hat zu dem Zeitpunkt die und die Änderung vorgenommen. Die einfach auch eine ganz andere Verlässlichkeit schafft. Auch ein ganz anderes Verständnis fördert für die Programmierleistung. Wenn ich mir das selbe jetzt eben vorstelle für ein Paper, was zu einem Zeitpunkt einfach mal veröffentlicht wurde. Nach dem Motto, ja wir haben jetzt hier mal 20 Testreihen gemacht lalala, das war jetzt der erste Zustand und dann sieht man in so einer Historie für dieses Paper, oh da wurde so ein interessanter Gong angeschlagen, da kamen sie dann gleich alle angelaufen und haben gesagt, das wollen wir uns aber mal genauer anschauen. Dann sieht man so 10-20 vielleicht auch schon bekannte Reviewer oder Gutachter, die halt sozusagen auch schon einen Namen haben als Reviewer. Vielleicht deren Hauptarbeit schon gar nicht mehr so darin liegt, selber die ganze Zeit Papers zu produzieren. Die aber irgendwie eine Gabe entwickeln, die Fehler in anderen Papers zu finden, die sich vielleicht viel mehr auf Methodiken und Fehlerfindungen usw. spezialisiert haben. Dadurch wird hier Interesse geschaffen. Dann sehe ich, oh jetzt sind die aber nochmal beigegangen, weil sie gesehen haben, ihre aussagen waren missverständlich oder hätte man nochmal beigehen können etc., dann wurde dieses Paper aktualisiert. Also über die Zeit sieht man ja dann nicht nur einen einzigen Zeitpunkt, zu dem mal irgendeine Erkenntnis geliefert wurde, sondern man sieht im Prinzip die vollständige Historie und vollständige wissenschaftliche Aktivität um dieses Thema herum, durch diese endlose Vergangenheit.

Nikolaus Kriegeskorte
1:29:04
Tim Pritlove
1:30:40
Nikolaus Kriegeskorte
1:31:29

Ja.

Tim Pritlove
1:31:31
Nikolaus Kriegeskorte
1:31:32
Tim Pritlove
1:31:50
Nikolaus Kriegeskorte
1:31:55
Tim Pritlove
1:32:51
Nikolaus Kriegeskorte
1:33:33

Ja Konferenzen sind sozusagen wie eine Abstufung von Veröffentlichungen. Sozusagen eine schwächere Form von Veröffentlichung. Und das hängt vom Bereich ab, wie sich das verhält zu den Journals. Also zum Beispiel im Bereich Machine-learning, in der Informatik gibt es viele Konferenzen, wo man tatsächlich ein kurzes Paper einreicht und das Paper ist zitierbar für immer. Also praktisch der Konferenzbeitrag ist ein echter zitierbarer Beitrag und möglicherweise gibt es keine andere Veröffentlichung zu diesem Konferenzpaper und das ist der Artikel praktisch. In meinem Bereich ist das nicht so, in meinem Bereich sind Konferenzen zwar Veröffentlichungen. für die eigene Gemeinschaft der anderen Wissenschaftler, die an der Konferenz teilnehmen, aber das einzige was da im Netz verfügbar ist ist ein Abstract, eine Kurzzusammenfassung und die gilt nicht als volle Veröffentlichung. Also wenn ich zum Beispiel was brillantes mache und ich habe die Ergebnisse und ich stelle das auf einer Konferenz dar und da gibt es ein Abstract und jeder sieht den Abstract und den Titel im Netz von der Konferenz, aber dann brauche ich noch ein Jahr, um das zu veröffentlichen und in der Zwischenzeit veröffentlicht jemand anderes etwas ähnliches, dann ist die historische Realität, dass die andere Gruppe das zuerst gemacht hat. Und das hängt damit zusammen, dass halt Artikel, da ist es halt wirklich, weil mit so einem Abstract kann man nicht beurteilen, behauptet der das nur oder ist da tatsächlich die Datenbasis gegeben?

Tim Pritlove
1:35:30
Nikolaus Kriegeskorte
1:35:51
Tim Pritlove
1:35:59
Nikolaus Kriegeskorte
1:36:01
Tim Pritlove
1:36:18
Nikolaus Kriegeskorte
1:36:25
Tim Pritlove
1:36:56
Nikolaus Kriegeskorte
1:36:57

Da sind wir gerade in einer ganz interessanten Phase, weil sich das gerade verändert. Also ich zitiere zum Beispiel in meinen Artikeln Preprints. Und das heißt ich zitiere Artikel, die tatsächlich noch nicht durch den Peer-review-Prozess gegangen sind und noch nicht in traditionellen Journals veröffentlicht worden sind. Das tue ich bei Artikeln, die ich trotzdem für wichtig halte, weil ich sie selbst evaluiert habe, ich habe sie selbst gelesen und das ist ein sehr interessanter Prozess. Wir hatten zum Beispiel so einen Fall mit meinem letzten Doktoranden, der jetzt Postdoc am MIT ist, wo wir zwei Artikel zitiert haben von einer Gruppe am MIT, die nur auf Preprintservern verfügbar waren und die so ähnliche Ergebnisse hatten, wie wir selbst auch. Und de facto haben wir unseren Artikel zuerst in einem offiziellen Journal, nämlich PLOS Public Library of Science Computational Biology veröffentlicht, aber wir zitieren zwei Artikeln, die nur auf Preprintservern sind und zwei Monate später kam dann ein Artikel raus in dem selben Journal, PLOS Computational Biology, der einem dieser früheren Artikeln entsprach, also das war die offizielle Version, der unseren Artikel nicht zitierte. Also das war ein interessanter Fall und mein Doktorand war dann ganz traurig und sagte, ja jetzt waren wir zuerst in dem klassischen System und wir zitieren die, weil wir großzügig sind, wir müssen sie nicht zitieren, weil das ist ja nur ein Preprintserver, das ist ja sozusagen nicht die Realität.

Tim Pritlove
1:38:49
Nikolaus Kriegeskorte
1:38:51
Tim Pritlove
1:39:34
Nikolaus Kriegeskorte
1:40:17
Tim Pritlove
1:40:25
Nikolaus Kriegeskorte
1:41:06

Ja.

Tim Pritlove
1:41:08
Nikolaus Kriegeskorte
1:42:15

Also die größere Frage ist, wie wir unsere Urteile nicht nur in der Wissenschaft, sondern auch über die Wissenschaft hinaus, zum Beispiel im Journalismus und in anderen Bereichen der Gesellschaft unsere Urteile teilen und unsere Urteile zusammenfließen lassen zu einem kollektiven Kognitionsprozess. Und wenn wir da Computertechnologie und Internettechnologie. dazu verwenden, dann bedeutet das natürlich auch, dass dann künstliche Intelligenztechnologien da relevant werden für die Integration all dieser Urteile. Und ich finde das wahnsinnig spannend, darüber nachzudenken, einerseits wie man diese Interaktionen gestalten will durch Webtechnologie, so dass der kollektive Prozess so effizient wie möglich ist in Bezug auf die Destillierung der Wahrheit. Und wie man die KI da mit einbeziehen kann. Und ich stelle mir vor, dass in ein paar Jahren der Gebrauch des Internets. eine andere Qualität haben wird, insofern als wir da nicht passiv nur abrufen werden. Also es ist natürlich auch jetzt schon interaktiv, insofern als wir wählen, was wir sehen und wir klicken durch Hyperlinks. Aber insofern ist es aktiver als zum Beispiel fernsehen gucken, wo man vielleicht nur umschalten kann oder zwischen 30 Programmen wählen. Das ist einfach eine Auswahl, die sehr viel simpler ist. Aber in Zukunft im Internet wird die Information auch in die andere Richtung laufen stärker. Das heißt, in dem wir lesen, werden wir gleichzeitig urteilen. Und urteilen nicht, was wir jetzt schon tun ist, worauf wir klicken, das wird wahrgenommen vom Internet zum Beispiel von google und hilft dabei, die Suchergebnisse in die richtige Rangfolge zu bringen. Aber in Zukunft werden da explizite Kommentare und Bewertungen hinzukommen. Es gibt da Versuche, Technologie zu entwickeln, um das web zu annotieren. Also wenn man was liest im web, dann kann man eine Behauptung zum Beispiel in der New York Times oder in der deutschen Zeit, die könnte man dann da markieren und dann rechts klicken und dann eine Bewertung hinterlassen, dieser Behauptung. Und wenn wir eine solche Technologie hätten, das könnte dazu führen, wenn die Technologie richtig gestaltet ist und wenn die Kultur dieses Urteilens, dieser Interaktion im web mit solchen Systemen sich positiv entwickelt, dazu führen, dass die Behauptungen, die aufgestellt werden im Internet viel verlässlicher sind. Weil wenn man zum Beispiel was veröffentlicht, was tatsächlich keine Basis hat, dann würde das einfach sofort debunked, sofort.

Tim Pritlove
1:45:26
Nikolaus Kriegeskorte
1:45:46
Tim Pritlove
1:45:48
Nikolaus Kriegeskorte
1:46:45
Tim Pritlove
1:46:45
Nikolaus Kriegeskorte
1:46:55

Ja das ist wahnsinnig spannend. Also zum Beispiel die Algorithmen, die google verwendet, die kann man ja nicht einsehen. Also vielleicht wenn man darüber lesen würde, könnte man schon Sachen dazu finden, aber generell verstehen wir nicht genau, wie das funktioniert. Einerseits ist es unvermeidlich, wenn man in einer komplexen Kultur arbeitet, dann kann man nicht erwarten, alles zu verstehen, worauf sich andere spezialisiert haben und das muss man einfach akzeptieren und das ist ja auch nichts neues. Das hat nichts mit dem Internet zu tun, sondern mit komplexen Kulturen, wo es Arbeitsteilung gibt und wo sich Menschen spezialisieren. Aber eine große Herausforderung ist, diese Prozesse so transparent wie möglich zu gestalten und die Prozesse, die zu einem bestimmten Urteil führen, vollständig zu veröffentlichen. Also wenn ich zum Beispiel eine Aussage, eine Behauptung sehe, die eine hohe Bewertung hat in diesem System, dann muss es möglich sein, für mich das zu hinterfragen und den gesamten Strang von Urteilen, Argumenten und Diskussionen zu dieser Aussage zu sehen. So dass der gesamte Prozess, der zu dieser hohen Bewertung führt dann transparent ist für mich. Und es muss möglich sein, dass es da einen Pluralismus gibt von Systemen, die diese ganze Evidenz, diese ganze evaluative Evidenz, die ganzen Urteile von Menschen in einer anderen Weise integrieren und möglicherweise zu anderen Ergebnissen kommen. Und das finde ich wahnsinnig spannend. Ich stelle mir vor, dass das extrem gut funktionieren wird. So ähnlich wie wir, wenn wir von einem Ereignis in den Nachrichten hören, dann sind wir vielleicht skeptisch, was die Auswahl der Informationen angeht. Aber wenn da zum Beispiel berichtet wird, dass es eine große Explosion gab irgendwo, dann sind wir ziemlich sicher, dass das tatsächlich passiert ist. Und ich glaube, so ähnlich wird das dann auch mit dem Internet sein.

Tim Pritlove
1:49:16
Nikolaus Kriegeskorte
1:49:17
Tim Pritlove
1:50:45
Nikolaus Kriegeskorte
1:51:02

Ja.

Tim Pritlove
1:51:05
Nikolaus Kriegeskorte
1:51:12
Tim Pritlove
1:51:13
Nikolaus Kriegeskorte
1:51:30
Tim Pritlove
1:51:32