Семейные и половые отношения у неандертальцев отличались от современных людей и, возможно, сыграли ключевую роль в их вымирании. Для них были характерны сильный половой гормональный дисбаланс (особенно у женщин), высокая степень родственного скрещивания (инбридинга), патрилокальный уклад (мужчины — местные, женщины приходят со стороны), и ограниченность в генетическом и культурном обмене. Напротив, у Homo sapiens с самого начала развивалась тенденция к экзогамии (поиск брачных партнёров за пределами группы), более развитым формам обмена, кооперации и разнообразию — что и стало одним из решающих факторов их успеха как вида.
Археологи и антропологи не всегда могут точно определить пол по скелетам древних людей, особенно когда кости сильно повреждены или плохо сохранились. Это усложняет изучение половых и семейных ролей в древности. Чем дальше во времени находится находка, тем больше она анатомически отличается от нас, и тем сложнее её интерпретировать.
У неандертальцев наблюдается сильный половой деморфизм — мужчины и женщины сильно различались по телосложению. Однако и женщины были очень массивными и «брутальными», с крупными надбровьями, толстыми костями и признаками высокого уровня мужских гормонов — тестостерона. Это говорит о своеобразной эндокринной системе у неандертальцев.
Такой гормональный перекос у женщин влиял не только на внешность и поведение, делая их «мужественными», но и, вероятно, осложнял беременность, вынашивание и вскармливание детей. Это могло приводить к высокой детской смертности и сниженной рождаемости, что стало фактором вымирания неандертальцев, особенно в конкуренции с кроманьонцами.
В археологических находках — например, в пещере Эль-Сидрон — видна высокая степень родственного скрещивания: в одной семейной группе все мужчины были братьями, а женщины — близкие родственницы. У детей и взрослых много врождённых патологий, характерных для инбридинга: искривлённые кости, зубные аномалии, раздвоенные позвонки и т. п.
Патрилокальность означает, что мужчины оставались в родной группе, а женщины приходили из другой. Это типично для человекообразных обезьян (шимпанзе, горилл) и для многих современных традиционных обществ. Но у неандертальцев женщины зачастую тоже были близкими родственницами, что говорит о крайней изолированности групп.
Неандертальцы редко обменивались технологиями и генами с другими группами. Их культура была крайне однообразной по всей Евразии — что видно по находкам артефактов и внешности. Они как будто «штампованные». Это противоположно Homo sapiens, у которых наблюдается и внешнее разнообразие, и культурная мозаика.
Современные люди, начиная с кроманьонцев, стремились к экзогамии — вступлению в брак с максимально удалёнными родственниками. Это видно по археогенетике и по разнообразию черепов в одновременных захоронениях. Такая стратегия помогала избежать инбридинга и увеличивала жизнеспособность потомства.
Интересно, что внутри группы у неандертальцев, по-видимому, было немного насилия. Повреждения на костях говорят о травмах, связанных с охотой и межгрупповыми конфликтами, но внутри группы, скорее всего, царили мирные отношения. Это логично: при малой численности конфликты внутри могли бы быть фатальны.
Патрилокальность способствует внутри-групповой стабильности и сотрудничеству: самцы растут вместе, знают друг друга и не нуждаются в конкуренции. Самки, приходящие извне, могут переносить инновации. Это способствует развитию технологий и культурному росту — так происходит у Homo sapiens и человекообразных обезьян.
В отличие от неандертальцев, у которых все черепа почти одинаковы, у кроманьонцев уже в одном поселении можно найти разные черты: кто-то похож на европейца, кто-то на папуаса. Это говорит о широкой генетической сети и разнообразии брачных союзов. Генетики подтверждают: у Homo sapiens уже с самого начала был тренд на смешение и обмен.