Hier das bei mir funktionierende Update:
1) Download der neuen 2.3de Version
2) von der neuen Version den wp-content Ordner komplett löschen (Tip hier aus dem Forum)
3) ebenso im wp-admin ordner die upgrade.php und install.php löschen (Tip hier aus dem Forum)
4) den Rest per ftp raufladen und dateien überschreiben
5) datenbank nach abfrage updaten - fertig
Habe keine plugins vorher abgeschalten, aber natürlich sicherheitshalber
eine Datenbankbackup vorher gemacht.
Bis jetzt scheint alles zu funktionieren. :p
Geht vielleicht noch einfacher aber so hats gut gefunkt.