Vereinheitlichung von Deep-Learning-Operationen: Die generalisierte Fensteroperation

2025-09-13

Dieser Artikel stellt die generalisierte Fensteroperation (GWO) vor, ein theoretisches Framework, das die wichtigsten Operationen des Deep Learnings wie Matrixmultiplikation und Faltung vereinheitlicht. GWO zerlegt diese Operationen in drei orthogonale Komponenten: Pfad (operationale Lokalität), Form (geometrische Struktur und Symmetrie) und Gewicht (Merkmalsbedeutung). Der Artikel schlägt das Prinzip der strukturellen Ausrichtung vor, das besagt, dass eine optimale Generalisierung erreicht wird, wenn die Konfiguration der GWO die intrinsische Struktur der Daten widerspiegelt. Dieses Prinzip leitet sich vom Prinzip des Informationsengpasses (IB) ab. Eine Metrik für die operationale Komplexität basierend auf der Kolmogorov-Komplexität wird definiert, wobei argumentiert wird, dass die Art dieser Komplexität – adaptive Regularisierung im Gegensatz zu Brute-Force-Kapazität – die Generalisierung bestimmt. GWO sagt eine bessere Generalisierung für Operationen voraus, die sich adaptiv an die Datenstruktur anpassen. Das Framework bietet eine Grammatik zum Erstellen neuronaler Operationen und einen prinzipiellen Weg von den Dateneigenschaften zum Design generalisierbarer Architekturen.

Mehr lesen
KI

Eine neue komplexe Konstante, abgeleitet aus dem Goldenen Schnitt, und ihre Transzendenzvermutung

2025-06-22

Ein Forschungsartikel von Tristen Harr führt eine neue komplexe Konstante, ΛG1, ein und analysiert sie. Sie wird aus inversen Potenzen des Goldenen Schnitts ϕ abgeleitet. Definiert als ΛG1 = T + iJ, wobei T = 1/(2ϕ) und J = 1/(2ϕ²), wird bewiesen, dass es sich um eine algebraische Zahl mit einem Betrag kleiner als eins handelt, die sich als Argument für die Polylogarithmusfunktion Lis(z) eignet. Hochpräzise numerische Auswertungen für den Dilogarithmus (s=2) und den Trilogarithmus (s=3) legen nahe, dass Lis(ΛG1) für alle ganzen Zahlen s≥2 transzendent ist und außerhalb der Körpererweiterung Q(π, ln(2), ϕ) liegt. Diese Forschung ist teilweise motiviert durch potenzielle Anwendungen in der Quasikristallforschung, wo der Goldene Schnitt fundamental ist.

Mehr lesen
Mathematik transzendente Zahl

Deputy: Eine in Clojure eingebettete Sprache mit abhängigen Typen

2025-05-20

Deputy ist eine experimentelle Programmiersprache mit abhängigen Typen, eingebettet in Clojure, mit induktiven Datentypen. Sie untersucht die Auswirkungen eines Lisp-basierten, REPL-gesteuerten Workflows sowohl für die Programmierung als auch für die Typprüfung. Als Clojure-Bibliothek implementiert, ermöglicht sie es Programmierern, die Host-Sprache zu nutzen, während sie auf Typ-Ebene arbeiten. Dies ermöglicht Typberechnungen, die von Werten abhängen, wodurch leistungsstarke Programmiermuster freigeschaltet werden. Wichtig ist, dass die Typprüfung trotz der reichen dynamischen Semantik von Typen eine rein kompilationszeitliche Operation bleibt.

Mehr lesen
Entwicklung