Falls beide Teilnehmer mit dem Internet verbunden sind, fallen bei der Internet-Telefonie normalerweise, abgesehen von den Kosten für die Internetnutzung, keine weiteren Kosten an. Für Teilnehmer mit einer Flatrate sind so Gespräche z.B. unter Verwendung eines offenen SIP-Servers weltweit kostenlos.

Möchte man über das Internet einen Teilnehmer im klassischen Telefonnetz anrufen, so wird ein Gateway benötigt, das die Verbindung bewerkstelligt. Die Kosten für die Benutzung des Telefonnetzes zahlt man dabei an den Betreiber des Gateways. Dessen Preise sind meist vergleichbar mit denen von Call-by-Call-Anbietern. Manche Anbieter haben mittlerweile auch eine Flatrate im Angebot, wobei alle Gespräche ins deutsche Festnetz (und zum Teil auch ins Mobilfunknetz oder ins Ausland) mit einer Pauschale abgedeckt sind. Dem Nutzer dieser Angebote bleibt nur der genaue Blick in die Tariftabellen des jeweiligen Anbieters, um zu entscheiden, ob ihm die Internet-Telefonie Kostenvorteile bringt. Bei Auslandsgesprächen zu einem Teilnehmer im klassischen Telefonnetz ist der Standort des Gateways entscheidend: Bis zum Gateway wird der günstige Internetzugang benutzt, danach gelten die Telefonpreise des Gatewayanbieters. Über ein deutsches Gateway können Gespräche ins Ausland teurer werden als durch die Wahl eines günstigen Call-by-Call-Anbieters im Festnetz.