Die class WP_Query in der Datei wp-includes/query.php enthält wohl die wichtigsten SQL-Anweisungen, nehme ich mal an. Jedenfalls ist mir nicht bekannt, ob sich WP einfach auf eine andere Datenbank als MySQL oder MariaDB aufsetzen lässt. Mit PDO sollte es eigentlich gehen, doch habe ich mich bisher dafür weniger interessiert und so sehr viel Treiber gibt es wohl bisher nicht für unterschiedliche Datenbanksysteme.
Hier lief mal ein Test mit MySQL und WordPress, es ging um eine Grenze auszuloten, danach zu suchen hätte jetzt wenig Sinn und die Grenze würde ich in 20 Jahren nicht erreichen. MySQL und WordPress hatten keine Probleme, die Probleme kommen wohl nur durch eine aufgeblähte Verschachtelung in 1.000 Kategorien und Unterkategorien oder so.
Eigene PHP-Dateien kannst Du entweder als Template-Dateien anlegen oder als Plugins programmieren. An den Core-Dateien solltest Du möglichst nichts verändern, sonst kommst Du aus den Änderungen nach den Updates nicht heraus. Also der "Handwagen" lässt sich durch Themes, Frameworks und Plugins erweitern.
Es kommt halt darauf an, was Du vorhast und ob Du nicht letztendlich schneller bist, wenn Du ein eigenes Backend und Frontend entwickelst oder ein anderes CMS verwendest, welches mehr auf den Bedarf von Unternehmen abzielt. Las erst vor kurzer Zeit, dass zum Beispiel (vergesse den Namen immer wieder) so ein ERP (Enterprise Resource-Planning) sich nicht (oder nur bedingt) mit WP umsetzen lassen soll.