В какой файл надо вставлять код счетчика статистики, например — Google Analytics?

В какой файл надо вставлять код счетчика, например google analytics?

Счётчик Google Analytics можно установить прямо через административный интерфейс Magento:
System -> Configuration -> Sales -> Google API -> Google Analytics -> Account Number.

Другие невидимые посетителю счётчики можно поместить сюда:
System -> Configuration -> Design -> Footer -> Miscellaneous HTML.

Если следовать второму варианту, то у меня код LiveInternet вставился прямиком в начало страницы.

Я его вместо этого вставил в футер, файл взял по адресу:
my_syte/www/app/design/frontend/default/hellowired/template/page/html/footer.phtml

Я также как "evento" вставил код LiveInternet в файлик footer.phtml

Он находится по более точному адресу : my_syte/www/app/design/frontend/default/(название шаблона)/template/page/html/footer.phtml

Как я понял здесь одно но, если в будущем поменять шаблон, то эту процедуру надо будет сделать заново в файле нового шаблона.

Разумеется, если вы выбрали некачественное решение evento — то придётся вручную исправлять шаблоны.
Более того, evento неправ в своём комментарии.
«Footer» в переводе с английского — это именно подвал страницы, и код счётчика будет добавлен именно в подвал страницы.
Видимо, evento в силу своей невнимательности перепутал раздел Footer с расположенным рядом в настройках разделом Header.
В Российской сборке Magento все разделы настроек называются на русском языке.
Раздел, куда нужно вставить код счётчика, чтобы он был размещён в подвале страницы, называется «Общие» → «Оформление» → «Подвал витринной страницы» → «Различный HTML».