Comme la plupart des placements passifs, les ETF sont conçus pour reproduire les rendements d'un indice de référence. La façon la plus simple d'y parvenir est d'effectuer une réplication physique : le gestionnaire de l’'ETF achète simplement les actifs composant l'indice, que ce soit des actions ou des obligations.. Cependant, une autre méthode de suivi d'indice est la réplication synthétique, dans laquelle le gestionnaire d'ETF passe un contrat de swap de performance avec une banque d'investissement qui délivre la performance de l'indice en échange d'une commission ainsi que des rendements des actifs détenus dans le portefeuille de l'ETF.
L’erreur de suivi (tracking-error) est utilisée pour décrire les variations de rendement entre un portefeuille d'ETF et son indice de référence. La principale source d'erreur de suivi est généralement due à l'impact des frais et des retenues à la source sur les dividendes versés.
En outre, les plafonds de pondération des titres d'un même émetteur peuvent empêcher l'ETF de dupliquer exactement l'allocation de titres de l'indice de référence. Dans certains cas, en particulier avec les indices obligataires ou les indices sur actions des marchés émergents, le gestionnaire d'ETF aura recours à l'échantillonnage. Les portefeuilles échantillonnés ne détiennent pas certains des titres les moins liquides de leur indice, mais le gestionnaire d'ETF tente de faire en sorte que l'ensemble du portefeuille suive l'indice de référence grâce à un choix judicieux de valeurs liquides et éventuellement de produits dérivés.