Das Artikelbild ist einfach eine Möglichkeit, ein an dem Artikel hochgeladenes Bild zum Artikelbild zu bestimmen. WP speichert dann, dass Attachment 123 das Artikelbild für Beitrag 42 ist. wenn ich das Interface gerade richtig im Kopf habe, muss das Bild an diesem Beitrag hochgeladen worden sein, damit es auf dem Galerietab auftaucht. Es muss aber nicht in den Beitrag eingefügt werden, das bleibt Dir überlassen.
Ich mache z.B. meistens das erste Bild des Beitrags zum Artikelbild, indem ich gleich beim Hochladen einfach "als Artikelbild verwenden" anklicke. Hin und wieder ist das erste Bild aber vom Format her nicht passend, dann könnte man ein Extra-Vorschau-Bild erstellen, hochladen, zum Artikelbild machen, aber eben nicht in den Beitragstext einfügen.
Die Ausgabe des Bildes ist dann noch mal eine ganz andere Sache. Das regelt das Theme. Mein Theme gibt das Bild z.B. in der Thumbnail-Größe auf allen Übersichtsseiten neben dem Auszug des Beitragstextes aus (Suchergebnis, Startseite, Kategoriearchv etc.). Twenty Eleven dagegen nutzt das Artikelbild-Feature dafür, das Headerbild gegen das Artikelbild auszutauschen, wenn das Artikelbild groß genug ist (was ich eher strange finde, schließlich heißt das Artikelbild im Englischen 'post thumbnail', da kann man den Leuten doch nicht beibringen, als Thumbnail ein Riesenbild hochzuladen...).