Books by Heiner Koch
Papers by Heiner Koch
In diesem Beitrag sollen auf theoretischer Ebene Zusammenhänge zwischen Vergesellschaftung und so... more In diesem Beitrag sollen auf theoretischer Ebene Zusammenhänge zwischen Vergesellschaftung und sozialökologischer Transformation hergestellt werden. Dies bedeutet, Begriffe zu klären (was ist Vergesellschaftung eigentlich?) und Probleme aufzuzeigen, die auftreten, wenn soziale Gerechtigkeit, ökologische Transformation, Demokratie und Vergesellschaftung in Beziehung zueinander gesetzt werden. Damit wird in dem Beitrag theoretische Hintergrundarbeit für konkrete sozialökologische Vergesellschaftungsprojekte geliefert. Eine sozialökologische Transformation steht dabei vor zumindest vier Herausforderungen: (1) Es existiert noch kein kollektiver Akteur, der die Transformation umsetzen könnte, (2) der Transformationsprozess muss demokratisch gestaltet werden, obwohl Demokratie diesen Prozess manchmal erschwert, (3) Fragen sozialer Gerechtigkeit müssen berücksichtigt werden, und (4) soziale Bewegungen müssen diese ersten drei Punkte erkämpfen. Vergesellschaftung kann Antworten auf diese Herausforderungen liefern. Dies gilt insbesondere dann, wenn Vergesellschaftung als Entprivatisierung verstanden wird.
Prokla, 2024
Oft wird Planwirtschaft als freiheitseinschränkend kritisiert und höchstens aufgrund von Effizien... more Oft wird Planwirtschaft als freiheitseinschränkend kritisiert und höchstens aufgrund von Effizienzüberlegungen gerechtfertigt. Jedoch lässt sich zeigen, dass Planwirtschaft die wichtige kollektive Freiheit realisiert, Wirtschaft bewusst gestalten zu können. Damit werden die Zwänge des Marktes als Quelle von Unfreiheit überwunden. Eine große Herausforderung besteht nun darin, die kollektive Freiheit der Planwirtschaft so zu gestalten, dass gleichzeitig individuelle Freiheiten optimal zur Geltung kommen. Hierbei wird es jedoch nicht vermeidbar sein, zwischen der Realisierung individueller und kollektiver Freiheiten abzuwägen.
Zeitschrift für Praktische Philosophie, 2000
Alle Inhalte der Zeitschrift für Praktische Philosophie sind lizenziert unter einer Creative Comm... more Alle Inhalte der Zeitschrift für Praktische Philosophie sind lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Intransparente Diskriminierung durch maschinelles Lernen Intransparent discrimination by machine learning heiner Koch, duisburg-essen Zusammenfassung: Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grund-sätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender men-taler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschied-liche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben: (i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein (ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder "chaotisch", um von Menschen sinnvoll erfasst werden zu können) (iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intranspa-rente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die dis-kriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für 266 Intransparente Diskriminierung durch maschinelles Lernen bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hin-reichend auf diskriminierende Konsequenzen untersuchen lassen. Abstract: Machine Learning can lead to discrimination based on new features that are intransparent. In order to show this, I will argue that discrimination cannot only occur based on features in exhaustive lists but on any feature and that algorithms can be discriminating in spite of a lack of mental attributes. I will show some problems that come with new forms of discrimination that are not easily detectable because of the intransparency of the algorithms. Three forms of intransparency that have different effects on the possibility to detect discriminations have to be distinguished: (i) features of differential treatment can be unknown (ii) features of differential treatment can be unimaginable (they are too complex or "chaotic" to be grasped by humans) (iii) explanations for the use of certain features for differential treatment could lack Especially the combination of intransparency and new features of discrimination is challenging for the philosophical debate about discrimination. Previous solutions were restricted to identify or create imaginable features that are explicitly protected by anti-discrimination law. New forms of discrimination that could have considerable impact in the future are neglected. In order to identify intransparent discrimina-tions unknown features have to be identified, unimaginable features have to be made sufficiently imaginable and correlations and training methods have to be explainable. Then it has to be possible to remove discriminating elements. Insofar no suitable solutions can be found, it must be considered whether we want to allow for specific contexts only those machine learning methods which can sufficiently be examined for discriminating consequences.
Social Functions in Philosophy, 2020
The conservative tendency of functionalism lies in its functionally explaining institutions as su... more The conservative tendency of functionalism lies in its functionally explaining institutions as sustaining (existing) society. There is no conservatism when institutions, and society itself, are explained as serving a development of power which prevails against forms of society resisting it. (Cohen 1978, 285) To the extent that functional analysis focuses wholly on functional consequences, it leans toward an ultraconservative ideology; to the extent that it focuses wholly on dysfunctional consequences, it leans toward an ultra-radical utopia. (Merton 1968, 114)
Sozialpsychiatrische Informationen, 2019
The Nature of Social Reality, 2013
European Journal of Law and Technology, 2013
To reflect the technical progress which results from the invention of "smart" cameras, five joint... more To reflect the technical progress which results from the invention of "smart" cameras, five joint research partners at German universities have been involved with "smart closed circuit television" (smart CCTV) as part of the research project MuViT (German acronym for Pattern Recognition and Video Tracking) since 2010. The project decidedly focuses on research and development of smart CCTV systems. Consequently, technological possibilities and modes of application are considered that are not yet feasible but seem to be promising research goals or political desiderata (e.g. through public funding). In this paper we present results of the project MuViT concerning the legal requirements and social and ethical consequences of the new technology. Smart CCTV provides information at a new level of quality when it identifies people and analyzes their movements. It is claimed to be less expensive and more effective than ordinary CCTV. If this is true, a considerably higher number of (smart) CCTV systems could be installed. But people are often critical about privacy intrusion in the context of surveillance. Therefore, such an expansion of (smart) CCTV could be justified by arguing that it will not have a high impact on privacy. It could even be argued that smart CCTV is privacy enhancing and therefore ethically justified, since a lot of information is only processed by algorithms and need not be available to human operators. We want to show in which way this argument might fail.
Sicherheitsethik, 2014
Dort, wo es innerhalb einer Gemeinschaft abgegrenzte private Lebensbereiche gibt, sollen diese da... more Dort, wo es innerhalb einer Gemeinschaft abgegrenzte private Lebensbereiche gibt, sollen diese das Leben innerhalb ihrer Grenzen in besonderer Weise schützen. Dabei besteht weder Einigung darüber, was mit dem Begriff "privat" bezeichnet wird, noch darüber, welche Werte durch Privatheit geschützt werden sollen. Im Rahmen der Sicherheitsethik ist es sinnvoll, denjenigen Lebensbereich als privat zu deuten, zu dem aus ethischer Perspektive andere Personen ohne Zustimmung keinen Zugang haben sollen. Ein zentraler Wert, der durch Privatheit geschützt werden soll, ist die Möglichkeit frei von sozialer Kontrolle die eigene Persönlichkeit zu entfalten. Damit wird die Privatsphäre häufig als Ort der Autonomie oder Selbstbestimmung gedeutet. Dies heißt auch, dass nicht von außen bestimmt oder erzwungen werden sollte, was als privat zu gelten hat. Vielmehr sollen Personen die Kontrolle über die Privatheit dieser Bereiche erhalten. Bei der Abwägung zwischen Sicherheit und Privatheit führt dies zu einer Betonung der Selbstbestimmung von Sicherheitsmaßnahmen.
Sicherheitsethik, 2014
Die Sicherheitsethik sieht sich oft mit dem Problem konfrontiert, dass einem aktuellen, tatsächli... more Die Sicherheitsethik sieht sich oft mit dem Problem konfrontiert, dass einem aktuellen, tatsächlichen oder vermeintlichen Sicherheitsproblem mit einer Sicherheitsmaßnahme begegnet wird, die dann ethisch bewertet werden soll. Dies ist insofero ein Problem, dass es in diesem ethischen Tagesgeschäft oft keine wirklich befriedigenden Lösungen gibt. Die Ethik darf sich zwar nicht aus Bequemlichkeit aus dem ethischen Tagesgeschäft zurückziehen, doch sie darf sich auch nicht von diesem so unter Druck setzen lassen, dass sie nicht mehr auf eine größere Perspektive reflektieren kann.
Kollektivität nach der Subjektkritik, 2013
Miscellaneous by Heiner Koch
Praefaktisch – ein Philosophieblog, 2022
Uploads
Books by Heiner Koch
Papers by Heiner Koch
Intransparente Diskriminierung durch maschinelles Lernen Intransparent discrimination by machine learning heiner Koch, duisburg-essen Zusammenfassung: Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grund-sätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender men-taler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschied-liche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben: (i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein (ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder "chaotisch", um von Menschen sinnvoll erfasst werden zu können) (iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intranspa-rente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die dis-kriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für 266 Intransparente Diskriminierung durch maschinelles Lernen bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hin-reichend auf diskriminierende Konsequenzen untersuchen lassen. Abstract: Machine Learning can lead to discrimination based on new features that are intransparent. In order to show this, I will argue that discrimination cannot only occur based on features in exhaustive lists but on any feature and that algorithms can be discriminating in spite of a lack of mental attributes. I will show some problems that come with new forms of discrimination that are not easily detectable because of the intransparency of the algorithms. Three forms of intransparency that have different effects on the possibility to detect discriminations have to be distinguished: (i) features of differential treatment can be unknown (ii) features of differential treatment can be unimaginable (they are too complex or "chaotic" to be grasped by humans) (iii) explanations for the use of certain features for differential treatment could lack Especially the combination of intransparency and new features of discrimination is challenging for the philosophical debate about discrimination. Previous solutions were restricted to identify or create imaginable features that are explicitly protected by anti-discrimination law. New forms of discrimination that could have considerable impact in the future are neglected. In order to identify intransparent discrimina-tions unknown features have to be identified, unimaginable features have to be made sufficiently imaginable and correlations and training methods have to be explainable. Then it has to be possible to remove discriminating elements. Insofar no suitable solutions can be found, it must be considered whether we want to allow for specific contexts only those machine learning methods which can sufficiently be examined for discriminating consequences.
Miscellaneous by Heiner Koch
Die Stellungnahme der GAP zum Fall Kathleen Stock suggeriert, dass eine wissenschaftlich neutrale Auseinandersetzung mit politisch relevanten Fragen möglich ist. Weil wir anders als die GAP davon ausgehen, dass Wissenschaftsfreiheit nicht losgelöst von bestehenden Machtverhältnissen in-und außerhalb der Universität gedacht werden kann, halten wir dies für falsch.
Intransparente Diskriminierung durch maschinelles Lernen Intransparent discrimination by machine learning heiner Koch, duisburg-essen Zusammenfassung: Maschinelles Lernen kann zu Diskriminierungen anhand von völlig neuen Merkmalen führen. Diese Merkmale können uns außerdem nicht transparent sein. Um dies zu zeigen, werde ich argumentieren, dass Diskriminierung nicht nur anhand von Merkmalen in abschließenden Listen erfolgen kann, sondern grund-sätzlich anhand beliebiger Merkmale, und dass Algorithmen trotz fehlender men-taler Eigenschaften diskriminierend sein können. Zudem werde ich die Probleme beschreiben, die damit einhergehen, dass diese neuen Formen der Diskriminierung nur schwer erkennbar sind, weil die eingesetzten Algorithmen intransparent sind. Hierbei sind drei Arten der Intransparenz zu unterschieden, die jeweils unterschied-liche Auswirkungen auf die Erkennbarkeit von Diskriminierungen haben: (i) Merkmale, anhand derer ungleich behandelt wird, können unbekannt sein (ii) Merkmale, anhand derer ungleich behandelt wird, können unverständlich sein (sie sind zu komplex oder "chaotisch", um von Menschen sinnvoll erfasst werden zu können) (iii) es können Erklärungen dafür fehlen, wie und weshalb bestimmte Merkmale für eine Ungleichbehandlung herangezogen werden Gerade die Kombination aus Intransparenz und Diskriminierung anhand neuer Merkmale stellt eine besondere Herausforderung für die philosophische Debatte um Diskriminierung dar. Bisherige Ansätze beschränken sich darauf, verständliche Merkmale zu identifizieren oder zu erzeugen, die ihre Träger_innen unter expliziten Diskriminierungsschutz stellen. Damit geraten jedoch neue Diskriminierungen aus dem Blick, die in Zukunft erhebliche Auswirkungen haben können. Um intranspa-rente Diskriminierungen aufzudecken, müssen unbekannte Merkmale identifiziert werden, unverständliche Merkmale hinreichend verständlich gemacht werden und Korrelationen und Trainingsverfahren erklärbar sein. Anschließend müssen die dis-kriminierenden Elemente des Algorithmus beseitigt werden können. Insofern keine angemessenen Lösungsstrategien vorliegen, muss darüber nachgedacht werden, für 266 Intransparente Diskriminierung durch maschinelles Lernen bestimmte Kontexte nur Formen des maschinellen Lernens zuzulassen, die sich hin-reichend auf diskriminierende Konsequenzen untersuchen lassen. Abstract: Machine Learning can lead to discrimination based on new features that are intransparent. In order to show this, I will argue that discrimination cannot only occur based on features in exhaustive lists but on any feature and that algorithms can be discriminating in spite of a lack of mental attributes. I will show some problems that come with new forms of discrimination that are not easily detectable because of the intransparency of the algorithms. Three forms of intransparency that have different effects on the possibility to detect discriminations have to be distinguished: (i) features of differential treatment can be unknown (ii) features of differential treatment can be unimaginable (they are too complex or "chaotic" to be grasped by humans) (iii) explanations for the use of certain features for differential treatment could lack Especially the combination of intransparency and new features of discrimination is challenging for the philosophical debate about discrimination. Previous solutions were restricted to identify or create imaginable features that are explicitly protected by anti-discrimination law. New forms of discrimination that could have considerable impact in the future are neglected. In order to identify intransparent discrimina-tions unknown features have to be identified, unimaginable features have to be made sufficiently imaginable and correlations and training methods have to be explainable. Then it has to be possible to remove discriminating elements. Insofar no suitable solutions can be found, it must be considered whether we want to allow for specific contexts only those machine learning methods which can sufficiently be examined for discriminating consequences.
Die Stellungnahme der GAP zum Fall Kathleen Stock suggeriert, dass eine wissenschaftlich neutrale Auseinandersetzung mit politisch relevanten Fragen möglich ist. Weil wir anders als die GAP davon ausgehen, dass Wissenschaftsfreiheit nicht losgelöst von bestehenden Machtverhältnissen in-und außerhalb der Universität gedacht werden kann, halten wir dies für falsch.