Home on Erik's Page

Aligning Path-based Link Prediction with Human Understanding of Valid Reasoning

Mon, 29 Jun 2026 00:00:00 +0000

Path-based link prediction methods reconstruct missing links between two vertices of a knowledge graph. They reconstruct a missing link by finding a path through the knowledge graph connecting both vertices. The path is the reasoning of the link prediction method. However, path-based link prediction methods are vulnerable to Clever Hans biases. They learn invalid reasoning patterns if these patterns are dominant and generalize well to the training and validation set. As a result, performance drops when evaluated on the real-world distribution. Whether reasoning is valid, that is, semantically relevant to the missing link and not merely factually correct, depends on the semantic concept underlying the link, which is mostly accessible through human knowledge. The paper’s approach makes the understanding of a human oracle of valid reasoning accessible while learning to predict missing links. This paper proposes the path-based link prediction method LiEr. LiEr learns human-oracle-aligned reasoning within the knowledge graph domain from preference-based human feedback. The paper demonstrates that LiEr’s prediction capability is on par with other state-of-the-art link prediction methods, while its reasoning aligns more closely with human-specified notions of valid reasoning across various benchmark reasoning tasks. In addition, a novel benchmark knowledge graph with a Clever Hans bias is introduced to evaluate the alignment of link prediction methods with human oracle-regulated understanding of valid reasoning. The paper contributes by introducing preference-based human-in-the-loop learning to path-based link prediction in knowledge graphs. It aligns the model’s behavior with human understanding of valid reasoning.

Curriculum Vitae

Mon, 01 Jan 0001 00:00:00 +0000

A short version lives here; the PDF above is the full, up-to-date document.

Work Experience

Research Associate, Cognitive Systems Group - Otto-Friedrich-University Bamberg, 2024-present
Research Associate, AI Production Network Augsburg - University of Augsburg, 2023-2024
Research Associate, DLR School Lab Augsburg - University of Augsburg, 2022-2023

Education

PhD, Computer Science — Otto-Friedrich-University Bamberg, 2026–present.
MSc, Computing in the Humanities — Otto-Friedrich-University Bamberg, 2023-2026. Thesis: Unsupervised Concept Extraction with Sparse Autoencoders - A Study of Sparse Autoencoders \for Concept-based Explanations in Dermatology
1st State Exam Secondary Education - University of Augsburg, 2022.
B.Ed, English — University of Augsburg, 2022.
B.Ed, Geography — University of Augsburg, 2022.

Research interests

Mechanistic interpretability · causal interventions · sparse dictionary learning · faithfulness of reasoning · human-usable explanation.

Datenschutzerklärung

Mon, 01 Jan 0001 00:00:00 +0000

1. Verantwortlicher

Verantwortlich für die Datenverarbeitung auf dieser Website im Sinne der Datenschutz-Grundverordnung (DSGVO) ist:

Erik Voigt

Im Spielberg 23
55296 Harxheim
E-Mail: voigterik@outlook.de

2. Allgemeines

Diese Website ist ein privates, nicht-kommerzielles Angebot. Personenbezogene Daten werden nur in dem technisch notwendigen Umfang verarbeitet. Es werden keine Cookies gesetzt, und es kommen keine Analyse- oder Tracking-Werkzeuge zum Einsatz.

3. Server-Logfiles

Beim Aufruf dieser Website werden durch den Webserver automatisch Informationen erfasst und in sogenannten Server-Logfiles gespeichert, die Ihr Browser automatisch übermittelt. Dies sind in der Regel:

Impressum

Mon, 01 Jan 0001 00:00:00 +0000

Angaben gemäß § 5 DDG

Kontakt

Erik Voigt
Im Spielberg 23
55296 Harxheim
E-Mail: voigterik@outlook.de

Verantwortlich für den Inhalt nach § 18 Abs. 2 MStV

Erik Voigt (Anschrift wie oben)

Haftung für Inhalte

Als Diensteanbieter bin ich gemäß § 7 Abs. 1 DDG für eigene Inhalte auf diesen Seiten nach den allgemeinen Gesetzen verantwortlich. Nach §§ 8 bis 10 DDG bin ich als Diensteanbieter jedoch nicht verpflichtet, übermittelte oder gespeicherte fremde Informationen zu überwachen oder nach Umständen zu forschen, die auf eine rechtswidrige Tätigkeit hinweisen.