Das mathematische Werk des Cusanus ist vor allem von seinem Interesse an metaphysisch-theologischen Fragestellungen geprägt. Denn da alles Wissen von der Welt nicht exakt sein kann, da die Welt aus Gott stammt und daher nur soweit erkannt werden kann, als Gott erkannt werden kann, der jedoch als das absolut Große für uns prinzipiell nicht erkennbar ist, bleibt nur der Weg übrig, wenigstens zu einem Teile in dieses Mysterium einzudringen, wenn angenommen wird, dass die Dinge der Welt, obwohl für uns an sich unerkennbar, durchgängig aufeinander bezogen sind und dadurch einer mathematischen Betrachtung zugänglich werden.
Daher vertieft Nikolaus von Kues seine Bemühungen um die Philosophie der Mathematik, um die Trennung von (endlichem) Verstand und (auf Unendlichkeit zielender) Vernunft aufzulösen, indem er mit der Mathematik als symbolschaffender Möglichkeit die Grenzen des Endlichen zum Unendlichen zu durchbrechen und geometrische Fragen zu lösen versucht. Hierbei kommt er zur Einsicht in die besondere Bedeutung des Begriffs des Unendlichen für die Erkenntnis, und mit diesem Begriff findet er den Weg zur modernen Naturansicht der Renaissance.
Mit den Analogien zwischen mathematischem und metaphysischem Denken befasst er sich besonders in Schriften wie De mathematica perfectione («?ber die mathematische Vollendung«, 1458), Aurea propositio in mathematicis («?er Goldene Satz in der Mathematik«, 1459) und De mathematicis complementis («?ber mathematische Ergänzungen«, 1453).
Die seit 1929 bei Meiner erscheinende historisch-kritische Akademie-Ausgabe »Nicolai de Cusa Opera Omnia« kommt mit den Scripta Mathematica zu ihrem Abschluss.