Раздельные привязки популяций: снят предел dzn на размер сетки
Массив популяций занимает nx*ny*9*4 байта и показывался шейдеру одной привязкой. dzn объявляет max_storage_buffer_binding_size = 128 МиБ, поэтому потолок выходил 3.73 млн узлов: 14 прогонов кампании из 115 падали на создании bind group, а на них приходится 70.7% её стоимости. Ограничена при этом ровно привязка: max_buffer_size у dzn 2047 МиБ. Поэтому тот же буфер теперь показывается девятью привязками, по одному направлению в каждой, и потолок поднимается до 33.5 млн узлов — самая крупная сетка кампании (4096x4096, 16.8 млн) проходит с запасом. Как устроено: * шаг между направлениями выровнен на 256 байт (dir_stride), потому что смещение привязки обязано быть кратно min_storage_buffer_offset_alignment; * обращения к популяциям в WGSL идут через fget/fset/pget/pset, а их тело генерируется под вариант (build_shader); * вариант выбирается по max_storage_buffer_binding_size адаптера — где предела нет, собирается прежний общий, без switch в аксессорах; * KBC2D_SPLIT_POPULATIONS=1 включает раздельные принудительно: иначе сверить два варианта на одной карте нечем. Проверено: * на одном драйвере оба варианта дают одно и то же — Cd 2.39486, energy_end 5.74813e-05; раздельный стоит 5.7% пропускной способности; * на сетке 2048x2048, где раздельные привязки и нужны, нативный прогон против контейнерного: energy_end расходится на 2.4e-07, enstrophy_end на 1.3e-07; * preflight в контейнере: 115 сценариев из 115, ни одного отказа (было 14); * 29 собственных тестов решателя зелёные. Образ опубликован как notbigghost/kbc2d:1.2.0 (он же latest). Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
@@ -51,7 +51,9 @@ struct LevelParams {
|
||||
flags: u32,
|
||||
/// число граничных узлов (для моментных моделей стенки)
|
||||
nwall: u32,
|
||||
_pad: [u32; 3],
|
||||
/// шаг между направлениями в буфере популяций, во флоатах (см. dir_stride)
|
||||
stride: u32,
|
||||
_pad: [u32; 2],
|
||||
}
|
||||
|
||||
#[repr(C)]
|
||||
@@ -85,8 +87,9 @@ struct Substep {
|
||||
struct AmrParams {
|
||||
nghost: u32,
|
||||
nrestrict: u32,
|
||||
ccount: u32,
|
||||
fcount: u32,
|
||||
/// шаги между направлениями в буферах популяций грубого и мелкого уровней
|
||||
cstride: u32,
|
||||
fstride: u32,
|
||||
r01: f32,
|
||||
rfc: f32,
|
||||
w: f32,
|
||||
@@ -145,23 +148,22 @@ struct Results {
|
||||
|
||||
const SHADER: &str = r#"
|
||||
// ───── структуры (обязаны совпадать с gpu.rs) ─────
|
||||
struct LevelParams { n:u32, nx:u32, ny:u32, nlinks:u32, bcx:f32, bcy:f32, probe_node:u32, flags:u32, nwall:u32, lp1:u32, lp2:u32, lp3:u32 };
|
||||
struct LevelParams { n:u32, nx:u32, ny:u32, nlinks:u32, bcx:f32, bcy:f32, probe_node:u32, flags:u32, nwall:u32, stride:u32, lp2:u32, lp3:u32 };
|
||||
// wall_mode: 0 — Bouzidi, 1 — Град, 2 — HRR, 3 — простой отскок
|
||||
struct Dyn { ux_in:f32, uy_in:f32, rho_out:f32, kbc_model:u32, outlet_extrap:u32, nparts:u32, refine:u32, collision:u32, slot:u32, wall_mode:u32, dp2:u32, dp3:u32 };
|
||||
struct Substep { idx:u32, p0:u32, p1:u32, p2:u32 };
|
||||
struct AmrParams { nghost:u32, nrestrict:u32, ccount:u32, fcount:u32, r01:f32, rfc:f32, w:f32, pad:f32 };
|
||||
struct AmrParams { nghost:u32, nrestrict:u32, cstride:u32, fstride:u32, r01:f32, rfc:f32, w:f32, pad:f32 };
|
||||
struct GLink { node:u32, far:u32, i:u32, ib:u32, kind:u32, q:f32, body:u32, p1:u32 };
|
||||
struct GGhost { fine:u32, c00:u32, c10:u32, c01:u32, c11:u32, tx:f32, ty:f32, p0:u32 };
|
||||
struct Partial { rho:f32, maxu:f32, gsum:f32, gmin:f32, gmax:f32, cnt:f32, degen:f32, xineg:f32 };
|
||||
|
||||
@group(0) @binding(0) var<storage, read_write> f : array<f32>;
|
||||
@group(0) @binding(1) var<storage, read_write> post : array<f32>;
|
||||
@group(0) @binding(2) var<storage, read_write> gam : array<f32>;
|
||||
@group(0) @binding(3) var<storage, read> solid: array<u32>;
|
||||
@group(0) @binding(4) var<storage, read> links: array<GLink>;
|
||||
@group(0) @binding(5) var<storage, read> beta : array<f32>;
|
||||
@group(0) @binding(6) var<storage, read_write> parts: array<Partial>;
|
||||
@group(0) @binding(7) var<uniform> P : LevelParams;
|
||||
//__POPULATIONS__
|
||||
|
||||
@group(1) @binding(0) var<uniform> D : Dyn;
|
||||
@group(1) @binding(1) var<uniform> S : Substep;
|
||||
@@ -242,8 +244,8 @@ fn shift9(d: array<f32,9>, model: u32) -> array<f32,9> {
|
||||
return s;
|
||||
}
|
||||
|
||||
fn load9(base: ptr<function, array<f32,9>>, off: u32, n: u32) {
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { (*base)[i] = f[i*n + off]; }
|
||||
fn load9(base: ptr<function, array<f32,9>>, off: u32) {
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { (*base)[i] = fget(i, off); }
|
||||
}
|
||||
|
||||
// Возвращает (пост-столкновительные популяции, gamma, признак вырождения)
|
||||
@@ -324,15 +326,15 @@ fn k_collide(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
let nd = lin(gid, nwg);
|
||||
if (nd >= P.n) { return; }
|
||||
var fv: array<f32,9>;
|
||||
load9(&fv, nd, P.n);
|
||||
load9(&fv, nd);
|
||||
if (solid[nd] != 0u) {
|
||||
// внутри тела не считаем: популяции там фиктивны, Bouzidi всё равно их перекрывает
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { post[i*P.n + nd] = fv[i]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { pset(i, nd, fv[i]); }
|
||||
gam[nd] = 2.0;
|
||||
return;
|
||||
}
|
||||
var r = collide9(fv, beta[nd % P.nx], D.collision, D.kbc_model);
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { post[i*P.n + nd] = r.fv[i]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { pset(i, nd, r.fv[i]); }
|
||||
gam[nd] = r.gamma;
|
||||
}
|
||||
|
||||
@@ -350,7 +352,7 @@ fn k_stream(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
for (var i = 0u; i < 9u; i = i + 1u) {
|
||||
var xs = (x - cx[i]) % nxi; if (xs < 0) { xs = xs + nxi; }
|
||||
var ys = (y - cy[i]) % nyi; if (ys < 0) { ys = ys + nyi; }
|
||||
f[i*P.n + nd] = post[i*P.n + u32(ys*nxi + xs)];
|
||||
fset(i, nd, pget(i, u32(ys*nxi + xs)));
|
||||
}
|
||||
}
|
||||
|
||||
@@ -360,20 +362,20 @@ fn k_bouzidi(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
let k = lin(gid, nwg);
|
||||
if (k >= P.nlinks) { return; }
|
||||
let L = links[k];
|
||||
let fi = post[L.i*P.n + L.node];
|
||||
let fi = pget(L.i, L.node);
|
||||
var v = fi;
|
||||
// ступенчатая модель игнорирует долю пересечения: стенка ровно посередине между узлами
|
||||
if (D.wall_mode == 3u) {
|
||||
f[L.ib*P.n + L.node] = fi;
|
||||
fset(L.ib, L.node, fi);
|
||||
return;
|
||||
}
|
||||
if (L.kind == 0u) { // q < 1/2, есть дальний жидкий сосед
|
||||
v = 2.0*L.q*fi + (1.0 - 2.0*L.q)*post[L.i*P.n + L.far];
|
||||
v = 2.0*L.q*fi + (1.0 - 2.0*L.q)*pget(L.i, L.far);
|
||||
} else if (L.kind == 1u) { // q >= 1/2
|
||||
let h = 1.0/(2.0*L.q);
|
||||
v = h*fi + (1.0 - h)*post[L.ib*P.n + L.node];
|
||||
v = h*fi + (1.0 - h)*pget(L.ib, L.node);
|
||||
}
|
||||
f[L.ib*P.n + L.node] = v;
|
||||
fset(L.ib, L.node, v);
|
||||
}
|
||||
|
||||
@compute @workgroup_size(64)
|
||||
@@ -382,13 +384,13 @@ fn k_walls(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
let x = lin(gid, nwg);
|
||||
if (x >= P.nx) { return; }
|
||||
// зеркальное отражение: касательный импульс сохраняется, нормальный заворачивается
|
||||
f[2u*P.n + x] = f[4u*P.n + x];
|
||||
f[5u*P.n + x] = f[8u*P.n + x];
|
||||
f[6u*P.n + x] = f[7u*P.n + x];
|
||||
fset(2u, x, fget(4u, x));
|
||||
fset(5u, x, fget(8u, x));
|
||||
fset(6u, x, fget(7u, x));
|
||||
let t = (P.ny - 1u)*P.nx + x;
|
||||
f[4u*P.n + t] = f[2u*P.n + t];
|
||||
f[7u*P.n + t] = f[6u*P.n + t];
|
||||
f[8u*P.n + t] = f[5u*P.n + t];
|
||||
fset(4u, t, fget(2u, t));
|
||||
fset(7u, t, fget(6u, t));
|
||||
fset(8u, t, fget(5u, t));
|
||||
}
|
||||
|
||||
@compute @workgroup_size(64)
|
||||
@@ -399,23 +401,23 @@ fn k_channel(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
// вход: скоростной Zou-He по ВСЕМУ столбцу, включая угловые узлы
|
||||
let a = y*P.nx;
|
||||
var fv: array<f32,9>;
|
||||
load9(&fv, a, P.n);
|
||||
load9(&fv, a);
|
||||
var gi = zou_he_inlet(fv, D.ux_in, D.uy_in);
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { f[i*P.n + a] = gi[i]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { fset(i, a, gi[i]); }
|
||||
// выход: давление-Zou-He
|
||||
let b = y*P.nx + P.nx - 1u;
|
||||
var gv: array<f32,9>;
|
||||
load9(&gv, b, P.n);
|
||||
load9(&gv, b);
|
||||
var uyo = 0.0;
|
||||
if (D.outlet_extrap != 0u) {
|
||||
let c = y*P.nx + P.nx - 2u;
|
||||
var cv: array<f32,9>;
|
||||
load9(&cv, c, P.n);
|
||||
load9(&cv, c);
|
||||
let s = cv[0]+cv[1]+cv[2]+cv[3]+cv[4]+cv[5]+cv[6]+cv[7]+cv[8];
|
||||
uyo = ((cv[2]+cv[5]+cv[6]) - (cv[4]+cv[7]+cv[8])) / s;
|
||||
}
|
||||
var go = zou_he_outlet(gv, D.rho_out, uyo);
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { f[i*P.n + b] = go[i]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { fset(i, b, go[i]); }
|
||||
}
|
||||
|
||||
// сила и момент по GMEM, редукция одной рабочей группой
|
||||
@@ -436,8 +438,8 @@ fn k_force(@builtin(local_invocation_id) lid: vec3<u32>) {
|
||||
loop {
|
||||
if (k >= P.nlinks) { break; }
|
||||
let L = links[k];
|
||||
let fp = post[L.i*P.n + L.node];
|
||||
let fb = f[L.ib*P.n + L.node];
|
||||
let fp = pget(L.i, L.node);
|
||||
let fb = fget(L.ib, L.node);
|
||||
let dfx = cx[L.i]*fp + cx[L.i]*fb;
|
||||
let dfy = cy[L.i]*fp + cy[L.i]*fb;
|
||||
// плечо до точки пересечения линка со стенкой, а не до узла
|
||||
@@ -488,7 +490,7 @@ fn k_stats1(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
p.cnt = 0.0; p.degen = 0.0; p.xineg = 0.0;
|
||||
if (nd < P.n && solid[nd] == 0u) {
|
||||
var fv: array<f32,9>;
|
||||
load9(&fv, nd, P.n);
|
||||
load9(&fv, nd);
|
||||
let m = macros9(fv);
|
||||
p.rho = m.x;
|
||||
p.maxu = sqrt(m.y*m.y + m.z*m.z);
|
||||
@@ -506,7 +508,7 @@ fn k_stats1(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
// зонд следа снимается с того уровня, на котором он лежит
|
||||
if ((P.flags & 2u) != 0u && nd == P.probe_node) {
|
||||
var fv: array<f32,9>;
|
||||
load9(&fv, nd, P.n);
|
||||
load9(&fv, nd);
|
||||
let m = macros9(fv);
|
||||
results[D.slot*SLOT + 3u] = m.z;
|
||||
}
|
||||
@@ -626,7 +628,7 @@ fn k_stats2(@builtin(local_invocation_id) lid: vec3<u32>) {
|
||||
// хранилища прошлого шага.
|
||||
fn u_at_t(nd: u32) -> vec2<f32> {
|
||||
var ff: array<f32,9>;
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { ff[i] = post[i*P.n + nd]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { ff[i] = pget(i, nd); }
|
||||
let m = macros9(ff);
|
||||
return vec2<f32>(m.y, m.z);
|
||||
}
|
||||
@@ -733,15 +735,15 @@ fn k_moment_wall(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
var opp = array<u32,9>(0u, 3u, 4u, 1u, 2u, 7u, 8u, 5u, 6u);
|
||||
var rho = 0.0;
|
||||
for (var i = 0u; i < 9u; i = i + 1u) {
|
||||
if (missing[i] == 1u) { rho = rho + post[opp[i]*P.n + node]; }
|
||||
else { rho = rho + f[i*P.n + node]; }
|
||||
if (missing[i] == 1u) { rho = rho + pget(opp[i], node); }
|
||||
else { rho = rho + fget(i, node); }
|
||||
}
|
||||
|
||||
let g4 = grad_u_at_t(node);
|
||||
var g = moment_wall9(rho, ux, uy, g4.x, g4.y, g4.z, g4.w,
|
||||
beta[node % P.nx], select(0u, 1u, D.wall_mode == 2u));
|
||||
for (var i = 0u; i < 9u; i = i + 1u) {
|
||||
if (missing[i] == 1u) { f[i*P.n + node] = g[i]; }
|
||||
if (missing[i] == 1u) { fset(i, node, g[i]); }
|
||||
}
|
||||
}
|
||||
|
||||
@@ -764,7 +766,7 @@ fn k_ghost(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
var neq = array<f32,9>(0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0);
|
||||
for (var j = 0u; j < 4u; j = j + 1u) {
|
||||
var cf: array<f32,9>;
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { cf[i] = amr_src[i*A.ccount + cs[j]]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { cf[i] = amr_src[i*A.cstride + cs[j]]; }
|
||||
let m = macros9(cf);
|
||||
rho = rho + ws[j]*m.x;
|
||||
ux = ux + ws[j]*m.y;
|
||||
@@ -785,7 +787,7 @@ fn k_fill(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
let g = ghosts[k];
|
||||
// временная интерполяция рамки между состояниями L0 «до» и «после» шага
|
||||
for (var i = 0u; i < 9u; i = i + 1u) {
|
||||
amr_dst[i*A.fcount + g.fine] = (1.0 - A.w)*gh_a[k*9u + i] + A.w*gh_b[k*9u + i];
|
||||
amr_dst[i*A.fstride + g.fine] = (1.0 - A.w)*gh_a[k*9u + i] + A.w*gh_b[k*9u + i];
|
||||
}
|
||||
}
|
||||
|
||||
@@ -796,11 +798,11 @@ fn k_restrict(@builtin(global_invocation_id) gid: vec3<u32>,
|
||||
if (k >= A.nrestrict) { return; }
|
||||
let pr = rest[k];
|
||||
var ff: array<f32,9>;
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { ff[i] = amr_src[i*A.fcount + pr.y]; }
|
||||
for (var i = 0u; i < 9u; i = i + 1u) { ff[i] = amr_src[i*A.fstride + pr.y]; }
|
||||
let m = macros9(ff);
|
||||
var fe = feq9(m.x, m.y, m.z);
|
||||
for (var i = 0u; i < 9u; i = i + 1u) {
|
||||
amr_dst[i*A.ccount + pr.x] = fe[i] + A.rfc*(ff[i] - fe[i]);
|
||||
amr_dst[i*A.cstride + pr.x] = fe[i] + A.rfc*(ff[i] - fe[i]);
|
||||
}
|
||||
}
|
||||
"#;
|
||||
@@ -813,6 +815,8 @@ struct GpuLevel {
|
||||
nx: usize,
|
||||
ny: usize,
|
||||
n: usize,
|
||||
/// шаг между направлениями в `f`; см. dir_stride
|
||||
stride: usize,
|
||||
f: wgpu::Buffer,
|
||||
/// Стабилизатор γ поузлово — нужен для картинки; забирается с устройства как есть.
|
||||
gam: wgpu::Buffer,
|
||||
@@ -833,12 +837,27 @@ impl GpuLevel {
|
||||
|
||||
/// Переложить готовое стартовое поле (построенное общим кодом в `cpu::initial_field`)
|
||||
/// из AoS в раскладку SoA, которой пользуется GPU.
|
||||
fn to_soa(f: &[[R; math::Q]]) -> Vec<f32> {
|
||||
/// Выравнивание шага между направлениями, во ФЛОАТАХ.
|
||||
///
|
||||
/// Смещение каждой привязки обязано быть кратно `min_storage_buffer_offset_alignment`,
|
||||
/// а он равен 256 байтам у всех известных реализаций — это 64 значения f32. Шаг
|
||||
/// выравнивается всегда, даже когда привязка одна: так раскладка одна на оба варианта
|
||||
/// шейдера, и не надо помнить, какой из них сейчас собран. Перерасход памяти — меньше
|
||||
/// сотой доли процента.
|
||||
const DIR_ALIGN: usize = 64;
|
||||
|
||||
/// Расстояние между началами соседних направлений в буфере популяций, во флоатах.
|
||||
fn dir_stride(n: usize) -> usize {
|
||||
n.div_ceil(DIR_ALIGN) * DIR_ALIGN
|
||||
}
|
||||
|
||||
fn to_soa(f: &[[R; math::Q]], stride: usize) -> Vec<f32> {
|
||||
let n = f.len();
|
||||
let mut v = vec![0.0f32; 9 * n];
|
||||
for (k, cell) in f.iter().enumerate() {
|
||||
for i in 0..9 {
|
||||
v[i * n + k] = cell[i] as f32;
|
||||
debug_assert!(stride >= n);
|
||||
let mut v = vec![0.0f32; 9 * stride];
|
||||
for (k, c) in f.iter().enumerate() {
|
||||
for i in 0..math::Q {
|
||||
v[i * stride + k] = c[i] as f32;
|
||||
}
|
||||
}
|
||||
v
|
||||
@@ -856,9 +875,11 @@ fn make_level(
|
||||
flags: u32,
|
||||
init_field: &[[R; math::Q]],
|
||||
wall_layout: &wgpu::BindGroupLayout,
|
||||
split: bool,
|
||||
) -> GpuLevel {
|
||||
let n = nx * ny;
|
||||
let init = to_soa(init_field);
|
||||
let stride = dir_stride(n);
|
||||
let init = to_soa(init_field, stride);
|
||||
let mkf = |label: &str| {
|
||||
device.create_buffer_init(&wgpu::util::BufferInitDescriptor {
|
||||
label: Some(label),
|
||||
@@ -930,26 +951,41 @@ fn make_level(
|
||||
probe_node,
|
||||
flags,
|
||||
nwall,
|
||||
_pad: [0; 3],
|
||||
stride: stride as u32,
|
||||
_pad: [0; 2],
|
||||
}),
|
||||
usage: wgpu::BufferUsages::UNIFORM,
|
||||
});
|
||||
|
||||
// Общая часть связки одинакова в обоих вариантах; различаются только популяции.
|
||||
let mut entries = vec![
|
||||
bind(2, &gam),
|
||||
bind(3, &solid_buf),
|
||||
bind(4, &links_buf),
|
||||
bind(5, &beta_buf),
|
||||
bind(6, &parts),
|
||||
bind(7, ¶ms),
|
||||
];
|
||||
if split {
|
||||
// Тот же буфер, но показанный шейдеру по одному направлению: каждая привязка
|
||||
// укладывается в n*4 байта вместо n*9*4, и предел драйвера на размер ОДНОЙ
|
||||
// привязки перестаёт быть потолком для размера сетки.
|
||||
for i in 0..math::Q {
|
||||
let off = (i * stride * 4) as u64;
|
||||
let len = (n * 4) as u64;
|
||||
entries.push(bind_range(POP_F0 + i as u32, &f, off, len));
|
||||
entries.push(bind_range(POP_P0 + i as u32, &post, off, len));
|
||||
}
|
||||
} else {
|
||||
entries.push(bind(0, &f));
|
||||
entries.push(bind(1, &post));
|
||||
}
|
||||
let bind = device.create_bind_group(&wgpu::BindGroupDescriptor {
|
||||
label: Some("level"),
|
||||
layout,
|
||||
entries: &[
|
||||
bind(0, &f),
|
||||
bind(1, &post),
|
||||
bind(2, &gam),
|
||||
bind(3, &solid_buf),
|
||||
bind(4, &links_buf),
|
||||
bind(5, &beta_buf),
|
||||
bind(6, &parts),
|
||||
bind(7, ¶ms),
|
||||
],
|
||||
entries: &entries,
|
||||
});
|
||||
GpuLevel { nx, ny, n, f, gam, bind, wall_bind, nwall, parts_count, nlinks: links.len() as u32 }
|
||||
GpuLevel { nx, ny, n, stride, f, gam, bind, wall_bind, nwall, parts_count, nlinks: links.len() as u32 }
|
||||
}
|
||||
|
||||
// ─────────────────────────────────────────────────────────────────────────────
|
||||
@@ -1067,6 +1103,45 @@ impl Sim {
|
||||
}
|
||||
}
|
||||
|
||||
// Влезает ли массив популяций в ОДНУ привязку. Считаем по самому крупному
|
||||
// уровню: у патча измельчения своих узлов может оказаться больше, чем у L0.
|
||||
let max_nodes = {
|
||||
let n0 = spec.nx * spec.ny;
|
||||
let n1 = match (spec.refine > 1, spec.patch) {
|
||||
(true, Some((ax, bx, ay, by))) => {
|
||||
(spec.refine * (bx - ax) + 1) * (spec.refine * (by - ay) + 1)
|
||||
}
|
||||
_ => 0,
|
||||
};
|
||||
n0.max(n1)
|
||||
};
|
||||
let need = (math::Q * dir_stride(max_nodes) * 4) as u64;
|
||||
// Переменная окружения нужна не для работы, а для проверки: без неё раздельный
|
||||
// вариант включается только на драйверах с малым пределом, и сверить два
|
||||
// варианта на одной карте было бы нечем.
|
||||
let split = need > adapter.limits().max_storage_buffer_binding_size as u64
|
||||
|| std::env::var("KBC2D_SPLIT_POPULATIONS").is_ok_and(|v| v != "0");
|
||||
if split {
|
||||
// Шаг между направлениями выровнен на DIR_ALIGN значений f32. Если адаптер
|
||||
// требует более крупного выравнивания смещений, раздельные привязки собрать
|
||||
// нельзя — лучше сказать это прямо, чем ловить невнятную ошибку валидации.
|
||||
let align = adapter.limits().min_storage_buffer_offset_alignment as usize;
|
||||
if (DIR_ALIGN * 4) % align != 0 {
|
||||
return Err(format!(
|
||||
"адаптер требует выравнивания смещений на {align} байт, а раскладка популяций рассчитана на {}. Считай на CPU либо на другом драйвере",
|
||||
DIR_ALIGN * 4
|
||||
));
|
||||
}
|
||||
let per = (dir_stride(max_nodes) * 4) as u64;
|
||||
if per > adapter.limits().max_storage_buffer_binding_size as u64 {
|
||||
return Err(format!(
|
||||
"адаптер ограничивает привязку {} МиБ, а одному направлению нужно {} МиБ. Сетка слишком крупная для этого драйвера — считай на CPU либо на драйвере без такого предела",
|
||||
adapter.limits().max_storage_buffer_binding_size / 1048576,
|
||||
per / 1048576
|
||||
));
|
||||
}
|
||||
}
|
||||
|
||||
// ── топология берётся из процессорного бэкенда, а не строится заново ──
|
||||
let geom0 = cpu::Geom::build(spec.nx, spec.ny, &spec.scene);
|
||||
let fluid_count = geom0.solid.iter().filter(|s| !**s).count() as R;
|
||||
@@ -1079,10 +1154,10 @@ impl Sim {
|
||||
|
||||
let module = device.create_shader_module(wgpu::ShaderModuleDescriptor {
|
||||
label: Some("kbc2d.wgsl"),
|
||||
source: wgpu::ShaderSource::Wgsl(Cow::Borrowed(SHADER)),
|
||||
source: wgpu::ShaderSource::Wgsl(Cow::Owned(build_shader(split))),
|
||||
});
|
||||
|
||||
let bgl_level = level_layout(&device);
|
||||
let bgl_level = level_layout(&device, split);
|
||||
let bgl_dyn = dyn_layout(&device);
|
||||
let bgl_amr = amr_layout(&device);
|
||||
let bgl_wall = device.create_bind_group_layout(&wgpu::BindGroupLayoutDescriptor {
|
||||
@@ -1195,11 +1270,12 @@ impl Sim {
|
||||
taper: if spec.init_uniform { spec.init_taper } else { 0.0 },
|
||||
}),
|
||||
&bgl_wall,
|
||||
split,
|
||||
);
|
||||
|
||||
let pre = device.create_buffer(&wgpu::BufferDescriptor {
|
||||
label: Some("pre"),
|
||||
size: (9 * l0.n * 4) as u64,
|
||||
size: (math::Q * l0.stride * 4) as u64,
|
||||
usage: wgpu::BufferUsages::STORAGE | wgpu::BufferUsages::COPY_DST,
|
||||
mapped_at_creation: false,
|
||||
});
|
||||
@@ -1235,6 +1311,7 @@ impl Sim {
|
||||
taper: if spec.init_uniform { spec.init_taper * r as R } else { 0.0 },
|
||||
}),
|
||||
&bgl_wall,
|
||||
split,
|
||||
);
|
||||
|
||||
let ghosts: Vec<GGhost> = patch
|
||||
@@ -1264,8 +1341,8 @@ impl Sim {
|
||||
let base = AmrParams {
|
||||
nghost: ghosts.len() as u32,
|
||||
nrestrict: rest.len() as u32,
|
||||
ccount: l0.n as u32,
|
||||
fcount: lvl1.n as u32,
|
||||
cstride: l0.stride as u32,
|
||||
fstride: lvl1.stride as u32,
|
||||
r01: r01 as f32,
|
||||
rfc: (1.0 / r01) as f32,
|
||||
w: 0.0,
|
||||
@@ -1340,7 +1417,7 @@ impl Sim {
|
||||
|
||||
let readback = device.create_buffer(&wgpu::BufferDescriptor {
|
||||
label: Some("readback"),
|
||||
size: (9 * l0.n * 4) as u64,
|
||||
size: (math::Q * l0.stride * 4) as u64,
|
||||
usage: wgpu::BufferUsages::MAP_READ | wgpu::BufferUsages::COPY_DST,
|
||||
mapped_at_creation: false,
|
||||
});
|
||||
@@ -1436,7 +1513,7 @@ impl Sim {
|
||||
|
||||
// «до» — состояние L0 перед столкновением, нужно как старый край рамки патча
|
||||
if self.amr.is_some() {
|
||||
enc.copy_buffer_to_buffer(&self.l0.f, 0, &self.pre, 0, (9 * self.l0.n * 4) as u64);
|
||||
enc.copy_buffer_to_buffer(&self.l0.f, 0, &self.pre, 0, (math::Q * self.l0.stride * 4) as u64);
|
||||
}
|
||||
|
||||
{
|
||||
@@ -1636,7 +1713,7 @@ impl Sim {
|
||||
|
||||
/// Скачать популяции L0 на хост (нужно для кадров и проверки на NaN).
|
||||
fn download_l0(&self) -> Vec<f32> {
|
||||
self.download(&self.l0.f, (9 * self.l0.n * 4) as u64)
|
||||
self.download(&self.l0.f, (math::Q * self.l0.stride * 4) as u64)
|
||||
}
|
||||
|
||||
/// Скачать произвольный буфер уровня. Буфер приёма выделен один раз при сборке под самый
|
||||
@@ -1669,11 +1746,12 @@ impl Sim {
|
||||
/// Полное поле скорости уровня L0 — для метрик эталонных течений и радиуса влияния.
|
||||
pub fn sample_velocity(&self) -> (Vec<R>, Vec<R>) {
|
||||
let n = self.l0.n;
|
||||
let stride = self.l0.stride;
|
||||
let raw = self.download_l0();
|
||||
let mut ux = Vec::with_capacity(n);
|
||||
let mut uy = Vec::with_capacity(n);
|
||||
for k in 0..n {
|
||||
let c: [R; 9] = std::array::from_fn(|i| raw[i * n + k] as R);
|
||||
let c: [R; 9] = std::array::from_fn(|i| raw[i * stride + k] as R);
|
||||
let (_, a, b) = math::macros(&c);
|
||||
ux.push(a);
|
||||
uy.push(b);
|
||||
@@ -1684,14 +1762,15 @@ impl Sim {
|
||||
/// Срез вдоль осевой линии: (ρ, u_x) по столбцам. На GPU это полное скачивание поля,
|
||||
/// поэтому x–t диагностика включается редким шагом и только там, где нужна.
|
||||
pub fn sample_centerline(&self) -> (Vec<R>, Vec<R>) {
|
||||
let (nx, ny, n) = (self.l0.nx, self.l0.ny, self.l0.n);
|
||||
let (nx, ny) = (self.l0.nx, self.l0.ny);
|
||||
let stride = self.l0.stride;
|
||||
let raw = self.download_l0();
|
||||
let y = ny / 2;
|
||||
let mut rho = Vec::with_capacity(nx);
|
||||
let mut ux = Vec::with_capacity(nx);
|
||||
for x in 0..nx {
|
||||
let k = y * nx + x;
|
||||
let c: [R; 9] = std::array::from_fn(|i| raw[i * n + k] as R);
|
||||
let c: [R; 9] = std::array::from_fn(|i| raw[i * stride + k] as R);
|
||||
let (r, a, _) = math::macros(&c);
|
||||
rho.push(r);
|
||||
ux.push(a);
|
||||
@@ -1705,9 +1784,10 @@ impl Sim {
|
||||
|
||||
pub fn sample_field(&self, kind: FieldKind) -> (Vec<R>, Vec<bool>) {
|
||||
let (nx, ny, n) = (self.l0.nx, self.l0.ny, self.l0.n);
|
||||
let stride = self.l0.stride;
|
||||
let raw = self.download_l0();
|
||||
let node = |k: usize| -> [R; 9] {
|
||||
std::array::from_fn(|i| raw[i * n + k] as R)
|
||||
std::array::from_fn(|i| raw[i * stride + k] as R)
|
||||
};
|
||||
let mut out = vec![0.0; n];
|
||||
match kind {
|
||||
@@ -1782,6 +1862,19 @@ fn bind(binding: u32, buf: &wgpu::Buffer) -> wgpu::BindGroupEntry<'_> {
|
||||
wgpu::BindGroupEntry { binding, resource: buf.as_entire_binding() }
|
||||
}
|
||||
|
||||
/// Привязать кусок буфера. Смещение обязано быть кратно
|
||||
/// `min_storage_buffer_offset_alignment` — этим и занят `dir_stride`.
|
||||
fn bind_range(binding: u32, buf: &wgpu::Buffer, offset: u64, size: u64) -> wgpu::BindGroupEntry<'_> {
|
||||
wgpu::BindGroupEntry {
|
||||
binding,
|
||||
resource: wgpu::BindingResource::Buffer(wgpu::BufferBinding {
|
||||
buffer: buf,
|
||||
offset,
|
||||
size: std::num::NonZeroU64::new(size),
|
||||
}),
|
||||
}
|
||||
}
|
||||
|
||||
fn storage(device: &wgpu::Device, label: &str, size: u64) -> wgpu::Buffer {
|
||||
device.create_buffer(&wgpu::BufferDescriptor {
|
||||
label: Some(label),
|
||||
@@ -1824,10 +1917,111 @@ fn entry(binding: u32, ty: wgpu::BufferBindingType) -> wgpu::BindGroupLayoutEntr
|
||||
}
|
||||
}
|
||||
|
||||
fn level_layout(device: &wgpu::Device) -> wgpu::BindGroupLayout {
|
||||
/// Номера привязок раздельных популяций. Взяты выше занятых (2..7), чтобы остальная
|
||||
/// часть связки не меняла нумерацию между вариантами шейдера.
|
||||
const POP_F0: u32 = 8;
|
||||
const POP_P0: u32 = 17;
|
||||
|
||||
/// Собрать WGSL под конкретный адаптер.
|
||||
///
|
||||
/// `split` — раскладывать ли популяции по девяти привязкам вместо одной общей.
|
||||
///
|
||||
/// Зачем это вообще. Драйверы ограничивают размер ОДНОЙ привязки storage-буфера, и у
|
||||
/// разных он разный: нативные дают гигабайты, а dzn (трансляция Vulkan в D3D12 —
|
||||
/// единственный способ добраться до карты из WSL2, где Linux-драйвера Vulkan у NVIDIA
|
||||
/// нет) даёт 128 МиБ. Массив популяций занимает nx*ny*9*4 байта, так что на dzn потолок
|
||||
/// выходит 3.73 млн узлов — сетка 2048x2048 уже не проходит. При этом сам БУФЕР держать
|
||||
/// разрешено: max_buffer_size там 2 ГиБ. Ограничена только привязка.
|
||||
///
|
||||
/// Отсюда второй вариант: тот же буфер показывается девятью привязками, по одному
|
||||
/// направлению в каждой, и потолок поднимается в девять раз — до 33.5 млн узлов, чего
|
||||
/// хватает всей кампании. Платой служит switch в аксессорах, поэтому там, где предела
|
||||
/// нет, собирается прежний общий вариант без всякого switch.
|
||||
fn build_shader(split: bool) -> String {
|
||||
let mut d = String::new();
|
||||
if split {
|
||||
for i in 0..math::Q {
|
||||
d += &format!(
|
||||
"@group(0) @binding({}) var<storage, read_write> f{i} : array<f32>;
|
||||
",
|
||||
POP_F0 as usize + i
|
||||
);
|
||||
d += &format!(
|
||||
"@group(0) @binding({}) var<storage, read_write> q{i} : array<f32>;
|
||||
",
|
||||
POP_P0 as usize + i
|
||||
);
|
||||
}
|
||||
let arm = |pfx: &str, body: &dyn Fn(usize) -> String| {
|
||||
let mut t = String::new();
|
||||
for i in 0..math::Q - 1 {
|
||||
t += &format!(" case {i}u: {{ {} }}
|
||||
", body(i));
|
||||
}
|
||||
t += &format!(" default: {{ {} }}
|
||||
", body(math::Q - 1));
|
||||
let _ = pfx;
|
||||
t
|
||||
};
|
||||
d += "fn fget(i: u32, nd: u32) -> f32 {
|
||||
switch i {
|
||||
";
|
||||
d += &arm("f", &|i| format!("return f{i}[nd];"));
|
||||
d += " }
|
||||
}
|
||||
";
|
||||
d += "fn fset(i: u32, nd: u32, v: f32) {
|
||||
switch i {
|
||||
";
|
||||
d += &arm("f", &|i| format!("f{i}[nd] = v;"));
|
||||
d += " }
|
||||
}
|
||||
";
|
||||
d += "fn pget(i: u32, nd: u32) -> f32 {
|
||||
switch i {
|
||||
";
|
||||
d += &arm("q", &|i| format!("return q{i}[nd];"));
|
||||
d += " }
|
||||
}
|
||||
";
|
||||
d += "fn pset(i: u32, nd: u32, v: f32) {
|
||||
switch i {
|
||||
";
|
||||
d += &arm("q", &|i| format!("q{i}[nd] = v;"));
|
||||
d += " }
|
||||
}
|
||||
";
|
||||
} else {
|
||||
d += "@group(0) @binding(0) var<storage, read_write> f : array<f32>;
|
||||
";
|
||||
d += "@group(0) @binding(1) var<storage, read_write> post : array<f32>;
|
||||
";
|
||||
d += "fn fget(i: u32, nd: u32) -> f32 { return f[i*P.stride + nd]; }
|
||||
";
|
||||
d += "fn fset(i: u32, nd: u32, v: f32) { f[i*P.stride + nd] = v; }
|
||||
";
|
||||
d += "fn pget(i: u32, nd: u32) -> f32 { return post[i*P.stride + nd]; }
|
||||
";
|
||||
d += "fn pset(i: u32, nd: u32, v: f32) { post[i*P.stride + nd] = v; }
|
||||
";
|
||||
}
|
||||
SHADER.replace("//__POPULATIONS__", &d)
|
||||
}
|
||||
|
||||
fn level_layout(device: &wgpu::Device, split: bool) -> wgpu::BindGroupLayout {
|
||||
let mut entries = vec![rw(2), ro(3), ro(4), ro(5), rw(6), un(7)];
|
||||
if split {
|
||||
for i in 0..math::Q as u32 {
|
||||
entries.push(rw(POP_F0 + i));
|
||||
entries.push(rw(POP_P0 + i));
|
||||
}
|
||||
} else {
|
||||
entries.push(rw(0));
|
||||
entries.push(rw(1));
|
||||
}
|
||||
device.create_bind_group_layout(&wgpu::BindGroupLayoutDescriptor {
|
||||
label: Some("level"),
|
||||
entries: &[rw(0), rw(1), rw(2), ro(3), ro(4), ro(5), rw(6), un(7)],
|
||||
entries: &entries,
|
||||
})
|
||||
}
|
||||
fn dyn_layout(device: &wgpu::Device) -> wgpu::BindGroupLayout {
|
||||
|
||||
Reference in New Issue
Block a user