В русском языке есть небольшая путаница в терминологии:
Второе (третье, четвертое, ...) гражданство - когда каждая страна считает человека своим гражданином и требует исполнения его долга (например, военного), независимо от других гражданств.
Двойное (множественное) гражданство - когда каждая страна признает права человека по отношению к другой стране. Например, отдать воинский долг можно только в одной стране. Второе гражданство в России сейчас возможно только с Таджикистаном (раньше еще было с Туркменистаном, но сейчас нет).
В Германии нет воинского призыва, а остальные обязанности (например, уплата налогов) от гражданства не зависят, поэтому нет и разницы между вторым и двойным гражданством. В немецком языке употребляется "Mehrstaatigkeit" ("множественное гражданство") и как частный случай "Doppelstaater" или "Doppelbürger" ("двойного гражданство").
При получении немецкого гражданства необходимо отказаться от всех других гражданств, но есть и исключения. Могут иметь двойное гражданство:
переселенцы (этнические немцы),
граждане других стран ЕС и Швейцарии,
ребенок, если его мама имеет одно гражданство, а папа - другое,
любой ребенок до 18-летия, а потом придется сделать выбор.
если сложно или невозможно отказаться от другого гражданства. Например, это запрещено конституцией другой страны, там человеку грозит опасность (идет война или человека преследуют по религиозным или политическим мотивам), инвалид физически не может туда поехать и т.д.