Как получить повторяющиеся группы, которые вложены в другую группу с помощью регулярных выражений?

вы можете сделать это с помощью этого шаблона:

string pattern = @"
(?:   # two possible entry points
    \G(?!\A)       # contigous to the precedent match
  |                # OR
    \A             # at the start of the string
    (?<main> [^']+ )  ' (?<number> [0-9]+ ) \[
)

\[ (?<type> [^],]+ ) # generic type
[^]]* ]              # all until the next closing square bracket
(?: , | ]\z )

| \A (?<main> [^']+ ) # or a main-type without generic types
";

RegexOptions options = RegexOptions.IgnorePatternWhitespace;

foreach (Match match in Regex.Matches(input, pattern, options)) { ...

Если вы планируете использовать шаблон несколько раз, лучше собрать его раз и навсегда. Обратите внимание, что вы можете уменьшить работу двигателя регулярного выражения, используя этот вариант:

string pattern = @"
  \G(?!\A) \[
  (?<type> [^],]+ )
  [^]]* ] (?: , | ]\z )
|
  \A
  (?<main> [^']+ ) 
  (?:
      ' (?<number> [0-9]+ )
      \[{2}
      (?<type> [^],]+ )
      [^]]* ]
      (?: , | ]\z )
    |
      \z
  )";

Если вы хотите, чтобы конец строки был достигнут, вы можете заменить ]\z с помощью (?<endcheck>]\z) и управлять, если группа существует в последнем совпадении.