Ich habe die ID die in der comment.php steht "comments" in den Einstellungen bei Custom Smilies eingegeben aber es funzt leider trotzdem nicht
Richtig, weil Du die ID des gesamten Kommentarbereichs und nicht die der Textarea, die sich innerhalb dieses Bereichs befindet, genommen hast. Wenn ich mich nicht verguckt habe, benutzt Du das Standardtheme. Die ID der Textarea lautet comment nicht comments.
EDIT: Wenn das noch immer nicht klappen sollte, kannst Du Dir auch mal wp-monalisa anschauen. Das ist meines Erachtens besser und bietet deutschsprachigen Support.