
协变与逆变是泛型类型安全的核心机制;本文通过 pytorch `dataset` 的真实案例,说明若缺失协变支持,将导致类型不安全——例如把 `dataset[bool]` 误传给期望 `dataset[int]` 的函数却无法被静态检查捕获。
在类型系统中,协变(covariance) 和 逆变(contravariance) 决定了泛型类型参数如何随其类型参数的子类型关系而变化。它们不是语法糖,而是保障类型安全的关键设计选择——尤其当泛型用于只读(read-only)或只写(write-only)场景时。
为什么 Dataset[T_co] 必须是协变的?
PyTorch 的 Dataset 是一个只读容器:它的核心契约是通过 __getitem__ 返回数据项,且从不接受外部值写入(即不提供类似 __setitem__ 或 append 的方法)。这意味着:只要 T_sub 是 T 的子类型,那么 Dataset[T_sub] 就应能安全地替代 Dataset[T] —— 因为任何消费 Dataset[T] 的代码,只会读取 T 类型的值,而 T_sub 值天然可隐式转换为 T(如 bool → int)。
来看一个具体、可验证的反例:
from typing import Generic, TypeVar, List
# 假设 Dataset 是不变的(invariant)——即默认行为
class DatasetInvariant(Generic[T]): # 没有 _co 后缀 → invariant
def __getitem__(self, i: int) -> T:
...
# 协变版本(正确设计)
class DatasetCovariant(Generic[T_co]): # T_co 表示 covariant
def __getitem__(self, i: int) -> T_co:
...
# 定义子类型关系
class BoolDataset(DatasetCovariant[bool]):
def __getitem__(self, i: int) -> bool:
return i % 2 == 0
# ✅ 协变允许:BoolDataset 可安全用作 Dataset[int]
def process_ints(data: DatasetCovariant[int]) -> List[int]:
return [data[i] for i in range(3)]
bool_ds = BoolDataset()
ints = process_ints(bool_ds) # OK: bool → int 是合法提升(True==1, False==0)
# ❌ 若 Dataset 是不变的,则以下调用在类型检查器(如 mypy)中报错:
# error: Argument 1 has incompatible type "BoolDataset"; expected "DatasetInvariant[int]"
# process_ints_invariant(bool_ds) # 类型不兼容!尽管运行时完全安全若 Dataset 被定义为不变(invariant),上述调用将被静态类型检查器拒绝——即使逻辑上完全正确且运行时零风险。这不仅降低 API 友好性,更违背“类型系统应帮助而非阻碍正确代码”的原则。
对比:为什么 list[T] 是不变的?
因为 list 支持读写双向操作:
def consume_and_produce(items: list[int]) -> None:
x: int = items[0] # 读:需要 items 提供 int(→ 协变需求)
items.append(42) # 写:需要 items 接受 int(→ 逆变需求)
# 若 list 是协变:list[bool] → list[int],但 append(42) 会向 bool 列表插入 int → 运行时错误!
# 若 list 是逆变:list[int] → list[bool],但 items[0] 可能返回 int,而调用方期望 bool → 类型错误!
# ⇒ 唯一安全选择:invariant因此,list[T] 必须是不变的,以防止读写冲突引发的类型漏洞。
逆变的典型场景:函数类型
逆变最自然的体现是函数参数类型。考虑:
from typing import Callable, TypeVar
A = TypeVar('A', contravariant=True) # 参数类型:逆变
R = TypeVar('R', covariant=True) # 返回类型:协变
# 函数类型 Callable[A, R] 是:逆变于 A,协变于 R
def expects_int_to_str(f: Callable[[int], str]) -> str:
return f(123)
# ✅ 安全:f_bool_to_str 接受 bool(比 int 更窄),但能处理所有 int 输入(因 bool ⊆ int 不成立,但 int → bool 需显式转换;更佳例子见下)
# 更清晰的逆变示例:
class Animal: ...
class Dog(Animal): ...
def feed_dog(f: Callable[[Dog], None]) -> None:
f(Dog())
# ✅ 可传入接受 Animal 的函数:因 Animal 范围更大,能处理 Dog(Dog 是 Animal 子类)
def feed_animal(animal: Animal) -> None: ...
feed_dog(feed_animal) # OK:Callable[[Animal], ...] 是 Callable[[Dog], ...] 的子类型 → 参数逆变!
# ❌ 但不可传入只接受 Poodle(Dog 子类)的函数:它不能处理任意 Dog这里,Callable[[Animal], ...] 可替代 Callable[[Dog], ...],正是因为参数类型是逆变的:更宽泛的输入类型(Animal)意味着更强的适用性。
总结:三句关键原则
- ✅ 协变(T_co):适用于只读位置(如返回值、元组元素)。若 S 是 T 的子类,则 Container[S] 是 Container[T] 的子类。
- ❌ 逆变(T_contra):适用于只写位置(如函数参数、回调输入)。若 S 是 T 的子类,则 Consumer[T] 是 Consumer[S] 的子类。
- ⚠️ 不变(默认):适用于读写混合场景(如 list[T], dict[K, V]),最保守、最安全,但灵活性最低。
PyTorch 将 Dataset[T_co] 显式声明为协变,正是为了在不牺牲类型安全的前提下,让 Dataset[bool]、Dataset[np.int32] 等特化类型能无缝融入期望 Dataset[int] 的训练流水线——这是工程实践中“类型即文档、类型即契约”的典范实践。










