Analisando os dois documentos acima,...

Choices

You can define a choice between one or another element by using the pipe (|) operator. 

For example, if the tutorial element requires a child called either name, title, or subject (but only one of these), you can do the following:

< ! ELEMENT tutorial (name | title | subject) >

Fonte: https://www.quackit.com/xml/tutorial/dtd_element_operators.cfm

Na linha DTD fornecida, a declaração <!ELEMENT db (r1*|r2*)> indica que o elemento "db" pode conter zero ou mais elementos "r1" ou zero ou mais elementos "r2", mas não ambos ao mesmo tempo. Isso ocorre porque o operador "|" (pipe) denota uma escolha entre as opções.

Quando você tem (r1*|r2*), está dizendo que "db" pode conter qualquer quantidade de "r1" ou qualquer quantidade de "r2", mas não ambos simultaneamente.

Portanto, os elementos "r1" e "r2" são exclusivos entre si dentro do elemento "db".