Гайдаржи родился в 1937 г. в бессарабском селе Карболия (ныне в составе Вулканештского района, АТО Гагаузия, Республика Молдова) в многодетной крестьянской семье. В 1972 г. Г. А. Гайдаржи в Институте языкознания АН СССР (Москва) защитил кандидатскую диссертацию «Типы придаточных предложений в современном гагаузском языке». Благодаря его стараниям в 1998 г. в системе АНМ была открыта докторантура по специальности 10.02.06- тюркские языки (гагаузский язык).
Г. А. Гайдаржи являлся автором концепции и утверждённого проекта гагаузского алфавита на базе латинской графики (1993), основным автором- составителем «Правил орфографии и пунктуации гагаузского языка» (1995), а также председателем Республиканского комитета по терминологии гагаузского языка. Гаврил Аркадьевич участвовал в ряде крупных международных проектов: составление Лингвистического Атласа Европы (1982г.) два проекта Турецкого лингвистического общества: «Сравнительная грамматика тюркских языков» и «Большой сравнительный словарь тюркских языков» (1994-1995). Кроме того, в 1994 г. как соисполнитель международной темы «Тюркские литературные языки» ( на турецком языке), написал раздел «Современный гагаузский литературный язык». Гаврил Аркадьевич являлся автором монографий («Гагаузский синтаксис . Придаточные предложения союзного подчинения»), соавтором и редактором «Гагаузско-русско-молдавского словаря», вузовских пособий для учителей, четырёх школьных учебников и около шестидесяти научных статей по проблемам гагаузского языка. Как литератор Г. А. Гайдаржи выпустил сборник стихов в 1972 г.-«Ана тарафым» («Край родной»), внёс большой вклад в написание сборника стихов, сказок, загадок для детей.
Г. А. Гайдаржи был отмечен знаками отличия и почётными званиями: знак ЦК ВЛКСМ «За освоение целинных и залежных земель» (1958), знак «Отличник народного образования МССР» (1970), звание «Заслуженный деятель науки Республики Молдова» (1997), звание «Почётный гражданин Гагаузии» (1997). Его имя носит Комратский теоретический лицей и улица в селе Карболия.