/[escript]/trunk/ripley/src/Rectangle.cpp
ViewVC logotype

Diff of /trunk/ripley/src/Rectangle.cpp

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

branches/ripleygmg_from_3668/ripley/src/Rectangle.cpp revision 3791 by caltinay, Wed Feb 1 05:10:22 2012 UTC trunk/ripley/src/Rectangle.cpp revision 4495 by caltinay, Fri Jul 5 02:19:47 2013 UTC
# Line 1  Line 1 
1    
2  /*******************************************************  /*****************************************************************************
3  *  *
4  * Copyright (c) 2003-2012 by University of Queensland  * Copyright (c) 2003-2013 by University of Queensland
5  * Earth Systems Science Computational Center (ESSCC)  * http://www.uq.edu.au
 * http://www.uq.edu.au/esscc  
6  *  *
7  * Primary Business: Queensland, Australia  * Primary Business: Queensland, Australia
8  * Licensed under the Open Software License version 3.0  * Licensed under the Open Software License version 3.0
9  * http://www.opensource.org/licenses/osl-3.0.php  * http://www.opensource.org/licenses/osl-3.0.php
10  *  *
11  *******************************************************/  * Development until 2012 by Earth Systems Science Computational Center (ESSCC)
12    * Development since 2012 by School of Earth Sciences
13    *
14    *****************************************************************************/
15    
16  #include <ripley/Rectangle.h>  #include <ripley/Rectangle.h>
 extern "C" {  
17  #include <paso/SystemMatrix.h>  #include <paso/SystemMatrix.h>
18  }  #include <esysUtils/esysFileWriter.h>
19    
20    #include <boost/scoped_array.hpp>
21    
22    #ifdef USE_NETCDF
23    #include <netcdfcpp.h>
24    #endif
25    
26  #if USE_SILO  #if USE_SILO
27  #include <silo.h>  #include <silo.h>
# Line 26  extern "C" { Line 33  extern "C" {
33  #include <iomanip>  #include <iomanip>
34    
35  using namespace std;  using namespace std;
36    using esysUtils::FileWriter;
37    
38  namespace ripley {  namespace ripley {
39    
40  Rectangle::Rectangle(int n0, int n1, double x0, double y0, double x1,  Rectangle::Rectangle(int n0, int n1, double x0, double y0, double x1,
41                       double y1, int d0, int d1) :                       double y1, int d0, int d1) :
42      RipleyDomain(2),      RipleyDomain(2)
     m_gNE0(n0),  
     m_gNE1(n1),  
     m_x0(x0),  
     m_y0(y0),  
     m_l0(x1-x0),  
     m_l1(y1-y0),  
     m_NX(d0),  
     m_NY(d1)  
43  {  {
44        // ignore subdivision parameters for serial run
45        if (m_mpiInfo->size == 1) {
46            d0=1;
47            d1=1;
48        }
49    
50        bool warn=false;
51        // if number of subdivisions is non-positive, try to subdivide by the same
52        // ratio as the number of elements
53        if (d0<=0 && d1<=0) {
54            warn=true;
55            d0=max(1, (int)(sqrt(m_mpiInfo->size*(n0+1)/(float)(n1+1))));
56            d1=m_mpiInfo->size/d0;
57            if (d0*d1 != m_mpiInfo->size) {
58                // ratios not the same so subdivide side with more elements only
59                if (n0>n1) {
60                    d0=0;
61                    d1=1;
62                } else {
63                    d0=1;
64                    d1=0;
65                }
66            }
67        }
68        if (d0<=0) {
69            // d1 is preset, determine d0 - throw further down if result is no good
70            d0=m_mpiInfo->size/d1;
71        } else if (d1<=0) {
72            // d0 is preset, determine d1 - throw further down if result is no good
73            d1=m_mpiInfo->size/d0;
74        }
75    
76      // ensure number of subdivisions is valid and nodes can be distributed      // ensure number of subdivisions is valid and nodes can be distributed
77      // among number of ranks      // among number of ranks
78      if (m_NX*m_NY != m_mpiInfo->size)      if (d0*d1 != m_mpiInfo->size)
79          throw RipleyException("Invalid number of spatial subdivisions");          throw RipleyException("Invalid number of spatial subdivisions");
80    
81      if ((n0+1)%m_NX > 0 || (n1+1)%m_NY > 0)      if (warn) {
82          throw RipleyException("Number of elements+1 must be separable into number of ranks in each dimension");          cout << "Warning: Automatic domain subdivision (d0=" << d0 << ", d1="
83                << d1 << "). This may not be optimal!" << endl;
84        }
85    
86        double l0 = x1-x0;
87        double l1 = y1-y0;
88        m_dx[0] = l0/n0;
89        m_dx[1] = l1/n1;
90    
91        if ((n0+1)%d0 > 0) {
92            n0=(int)round((float)(n0+1)/d0+0.5)*d0-1;
93            l0=m_dx[0]*n0;
94            cout << "Warning: Adjusted number of elements and length. N0="
95                << n0 << ", l0=" << l0 << endl;
96        }
97        if ((n1+1)%d1 > 0) {
98            n1=(int)round((float)(n1+1)/d1+0.5)*d1-1;
99            l1=m_dx[1]*n1;
100            cout << "Warning: Adjusted number of elements and length. N1="
101                << n1 << ", l1=" << l1 << endl;
102        }
103    
104      if ((m_NX > 1 && (n0+1)/m_NX<2) || (m_NY > 1 && (n1+1)/m_NY<2))      if ((d0 > 1 && (n0+1)/d0<2) || (d1 > 1 && (n1+1)/d1<2))
105          throw RipleyException("Too few elements for the number of ranks");          throw RipleyException("Too few elements for the number of ranks");
106    
107        m_gNE[0] = n0;
108        m_gNE[1] = n1;
109        m_origin[0] = x0;
110        m_origin[1] = y0;
111        m_length[0] = l0;
112        m_length[1] = l1;
113        m_NX[0] = d0;
114        m_NX[1] = d1;
115    
116      // local number of elements (with and without overlap)      // local number of elements (with and without overlap)
117      m_NE0 = m_ownNE0 = (m_NX>1 ? (n0+1)/m_NX : n0);      m_NE[0] = m_ownNE[0] = (d0>1 ? (n0+1)/d0 : n0);
118      if (m_mpiInfo->rank%m_NX>0 && m_mpiInfo->rank%m_NX<m_NX-1)      if (m_mpiInfo->rank%d0>0 && m_mpiInfo->rank%d0<d0-1)
119          m_NE0++;          m_NE[0]++;
120      else if (m_NX>1 && m_mpiInfo->rank%m_NX==m_NX-1)      else if (d0>1 && m_mpiInfo->rank%d0==d0-1)
121          m_ownNE0--;          m_ownNE[0]--;
122    
123      m_NE1 = m_ownNE1 = (m_NY>1 ? (n1+1)/m_NY : n1);      m_NE[1] = m_ownNE[1] = (d1>1 ? (n1+1)/d1 : n1);
124      if (m_mpiInfo->rank/m_NX>0 && m_mpiInfo->rank/m_NX<m_NY-1)      if (m_mpiInfo->rank/d0>0 && m_mpiInfo->rank/d0<d1-1)
125          m_NE1++;          m_NE[1]++;
126      else if (m_NY>1 && m_mpiInfo->rank/m_NX==m_NY-1)      else if (d1>1 && m_mpiInfo->rank/d0==d1-1)
127          m_ownNE1--;          m_ownNE[1]--;
128    
129      // local number of nodes      // local number of nodes
130      m_N0 = m_NE0+1;      m_NN[0] = m_NE[0]+1;
131      m_N1 = m_NE1+1;      m_NN[1] = m_NE[1]+1;
132    
133      // bottom-left node is at (offset0,offset1) in global mesh      // bottom-left node is at (offset0,offset1) in global mesh
134      m_offset0 = (n0+1)/m_NX*(m_mpiInfo->rank%m_NX);      m_offset[0] = (n0+1)/d0*(m_mpiInfo->rank%d0);
135      if (m_offset0 > 0)      if (m_offset[0] > 0)
136          m_offset0--;          m_offset[0]--;
137      m_offset1 = (n1+1)/m_NY*(m_mpiInfo->rank/m_NX);      m_offset[1] = (n1+1)/d1*(m_mpiInfo->rank/d0);
138      if (m_offset1 > 0)      if (m_offset[1] > 0)
139          m_offset1--;          m_offset[1]--;
140    
141      populateSampleIds();      populateSampleIds();
142      createPattern();      createPattern();
# Line 97  bool Rectangle::operator==(const Abstrac Line 158  bool Rectangle::operator==(const Abstrac
158      const Rectangle* o=dynamic_cast<const Rectangle*>(&other);      const Rectangle* o=dynamic_cast<const Rectangle*>(&other);
159      if (o) {      if (o) {
160          return (RipleyDomain::operator==(other) &&          return (RipleyDomain::operator==(other) &&
161                  m_gNE0==o->m_gNE0 && m_gNE1==o->m_gNE1                  m_gNE[0]==o->m_gNE[0] && m_gNE[1]==o->m_gNE[1]
162                  && m_x0==o->m_x0 && m_y0==o->m_y0                  && m_origin[0]==o->m_origin[0] && m_origin[1]==o->m_origin[1]
163                  && m_l0==o->m_l0 && m_l1==o->m_l1                  && m_length[0]==o->m_length[0] && m_length[1]==o->m_length[1]
164                  && m_NX==o->m_NX && m_NY==o->m_NY);                  && m_NX[0]==o->m_NX[0] && m_NX[1]==o->m_NX[1]);
165      }      }
166    
167      return false;      return false;
168  }  }
169    
170    void Rectangle::readNcGrid(escript::Data& out, string filename, string varname,
171                const vector<int>& first, const vector<int>& numValues,
172                const vector<int>& multiplier) const
173    {
174    #ifdef USE_NETCDF
175        // check destination function space
176        int myN0, myN1;
177        if (out.getFunctionSpace().getTypeCode() == Nodes) {
178            myN0 = m_NN[0];
179            myN1 = m_NN[1];
180        } else if (out.getFunctionSpace().getTypeCode() == Elements ||
181                    out.getFunctionSpace().getTypeCode() == ReducedElements) {
182            myN0 = m_NE[0];
183            myN1 = m_NE[1];
184        } else
185            throw RipleyException("readNcGrid(): invalid function space for output data object");
186    
187        if (first.size() != 2)
188            throw RipleyException("readNcGrid(): argument 'first' must have 2 entries");
189    
190        if (numValues.size() != 2)
191            throw RipleyException("readNcGrid(): argument 'numValues' must have 2 entries");
192    
193        if (multiplier.size() != 2)
194            throw RipleyException("readNcGrid(): argument 'multiplier' must have 2 entries");
195        for (size_t i=0; i<multiplier.size(); i++)
196            if (multiplier[i]<1)
197                throw RipleyException("readNcGrid(): all multipliers must be positive");
198    
199        // check file existence and size
200        NcFile f(filename.c_str(), NcFile::ReadOnly);
201        if (!f.is_valid())
202            throw RipleyException("readNcGrid(): cannot open file");
203    
204        NcVar* var = f.get_var(varname.c_str());
205        if (!var)
206            throw RipleyException("readNcGrid(): invalid variable");
207    
208        // TODO: rank>0 data support
209        const int numComp = out.getDataPointSize();
210        if (numComp > 1)
211            throw RipleyException("readNcGrid(): only scalar data supported");
212    
213        const int dims = var->num_dims();
214        boost::scoped_array<long> edges(var->edges());
215    
216        // is this a slice of the data object (dims!=2)?
217        // note the expected ordering of edges (as in numpy: y,x)
218        if ( (dims==2 && (numValues[1] > edges[0] || numValues[0] > edges[1]))
219                || (dims==1 && numValues[1]>1) ) {
220            throw RipleyException("readNcGrid(): not enough data in file");
221        }
222    
223        // check if this rank contributes anything
224        if (first[0] >= m_offset[0]+myN0 || first[0]+numValues[0]*multiplier[0] <= m_offset[0] ||
225                first[1] >= m_offset[1]+myN1 || first[1]+numValues[1]*multiplier[1] <= m_offset[1])
226            return;
227    
228        // now determine how much this rank has to write
229    
230        // first coordinates in data object to write to
231        const int first0 = max(0, first[0]-m_offset[0]);
232        const int first1 = max(0, first[1]-m_offset[1]);
233        // indices to first value in file
234        const int idx0 = max(0, m_offset[0]-first[0]);
235        const int idx1 = max(0, m_offset[1]-first[1]);
236        // number of values to read
237        const int num0 = min(numValues[0]-idx0, myN0-first0);
238        const int num1 = min(numValues[1]-idx1, myN1-first1);
239    
240        vector<double> values(num0*num1);
241        if (dims==2) {
242            var->set_cur(idx1, idx0);
243            var->get(&values[0], num1, num0);
244        } else {
245            var->set_cur(idx0);
246            var->get(&values[0], num0);
247        }
248    
249        const int dpp = out.getNumDataPointsPerSample();
250        out.requireWrite();
251    
252        for (index_t y=0; y<num1; y++) {
253    #pragma omp parallel for
254            for (index_t x=0; x<num0; x++) {
255                const int baseIndex = first0+x*multiplier[0]
256                                      +(first1+y*multiplier[1])*myN0;
257                const int srcIndex = y*num0+x;
258                if (!isnan(values[srcIndex])) {
259                    for (index_t m1=0; m1<multiplier[1]; m1++) {
260                        for (index_t m0=0; m0<multiplier[0]; m0++) {
261                            const int dataIndex = baseIndex+m0+m1*myN0;
262                            double* dest = out.getSampleDataRW(dataIndex);
263                            for (index_t q=0; q<dpp; q++) {
264                                *dest++ = values[srcIndex];
265                            }
266                        }
267                    }
268                }
269            }
270        }
271    #else
272        throw RipleyException("readNcGrid(): not compiled with netCDF support");
273    #endif
274    }
275    
276    void Rectangle::readBinaryGrid(escript::Data& out, string filename,
277                                   const vector<int>& first,
278                                   const vector<int>& numValues,
279                                   const std::vector<int>& multiplier,
280                                   int byteOrder, int dataType) const
281    {
282        // the mapping is not universally correct but should work on our
283        // supported platforms
284        switch (dataType) {
285            case DATATYPE_INT32:
286                readBinaryGridImpl<int>(out, filename, first, numValues,
287                                        multiplier, byteOrder);
288                break;
289            case DATATYPE_FLOAT32:
290                readBinaryGridImpl<float>(out, filename, first, numValues,
291                                          multiplier, byteOrder);
292                break;
293            case DATATYPE_FLOAT64:
294                readBinaryGridImpl<double>(out, filename, first, numValues,
295                                           multiplier, byteOrder);
296                break;
297            default:
298                throw RipleyException("readBinaryGrid(): invalid or unsupported datatype");
299        }
300    }
301    
302    template<typename ValueType>
303    void Rectangle::readBinaryGridImpl(escript::Data& out, const string& filename,
304                                       const vector<int>& first,
305                                       const vector<int>& numValues,
306                                       const std::vector<int>& multiplier,
307                                       int byteOrder) const
308    {
309        if (byteOrder != BYTEORDER_NATIVE)
310            throw RipleyException("readBinaryGrid(): only native byte order supported at the moment.");
311    
312        // check destination function space
313        int myN0, myN1;
314        if (out.getFunctionSpace().getTypeCode() == Nodes) {
315            myN0 = m_NN[0];
316            myN1 = m_NN[1];
317        } else if (out.getFunctionSpace().getTypeCode() == Elements ||
318                    out.getFunctionSpace().getTypeCode() == ReducedElements) {
319            myN0 = m_NE[0];
320            myN1 = m_NE[1];
321        } else
322            throw RipleyException("readBinaryGrid(): invalid function space for output data object");
323    
324        // check file existence and size
325        ifstream f(filename.c_str(), ifstream::binary);
326        if (f.fail()) {
327            throw RipleyException("readBinaryGrid(): cannot open file");
328        }
329        f.seekg(0, ios::end);
330        const int numComp = out.getDataPointSize();
331        const int filesize = f.tellg();
332        const int reqsize = numValues[0]*numValues[1]*numComp*sizeof(ValueType);
333        if (filesize < reqsize) {
334            f.close();
335            throw RipleyException("readBinaryGrid(): not enough data in file");
336        }
337    
338        // check if this rank contributes anything
339        if (first[0] >= m_offset[0]+myN0 || first[0]+numValues[0] <= m_offset[0] ||
340                first[1] >= m_offset[1]+myN1 || first[1]+numValues[1] <= m_offset[1]) {
341            f.close();
342            return;
343        }
344    
345        // now determine how much this rank has to write
346    
347        // first coordinates in data object to write to
348        const int first0 = max(0, first[0]-m_offset[0]);
349        const int first1 = max(0, first[1]-m_offset[1]);
350        // indices to first value in file
351        const int idx0 = max(0, m_offset[0]-first[0]);
352        const int idx1 = max(0, m_offset[1]-first[1]);
353        // number of values to read
354        const int num0 = min(numValues[0]-idx0, myN0-first0);
355        const int num1 = min(numValues[1]-idx1, myN1-first1);
356    
357        out.requireWrite();
358        vector<ValueType> values(num0*numComp);
359        const int dpp = out.getNumDataPointsPerSample();
360    
361        for (index_t y=0; y<num1; y++) {
362            const int fileofs = numComp*(idx0+(idx1+y)*numValues[0]);
363            f.seekg(fileofs*sizeof(ValueType));
364            f.read((char*)&values[0], num0*numComp*sizeof(ValueType));
365            for (int x=0; x<num0; x++) {
366                const int baseIndex = first0+x*multiplier[0]
367                                        +(first1+y*multiplier[1])*myN0;
368                for (index_t m1=0; m1<multiplier[1]; m1++) {
369                    for (index_t m0=0; m0<multiplier[0]; m0++) {
370                        const int dataIndex = baseIndex+m0+m1*myN0;
371                        double* dest = out.getSampleDataRW(dataIndex);
372                        for (int c=0; c<numComp; c++) {
373                            if (!std::isnan(values[x*numComp+c])) {
374                                for (int q=0; q<dpp; q++) {
375                                    *dest++ = static_cast<double>(values[x*numComp+c]);
376                                }
377                            }
378                        }
379                    }
380                }
381            }
382        }
383    
384        f.close();
385    }
386    
387    void Rectangle::writeBinaryGrid(const escript::Data& in, string filename,
388                                    int byteOrder, int dataType) const
389    {
390        // the mapping is not universally correct but should work on our
391        // supported platforms
392        switch (dataType) {
393            case DATATYPE_INT32:
394                writeBinaryGridImpl<int>(in, filename, byteOrder);
395                break;
396            case DATATYPE_FLOAT32:
397                writeBinaryGridImpl<float>(in, filename, byteOrder);
398                break;
399            case DATATYPE_FLOAT64:
400                writeBinaryGridImpl<double>(in, filename, byteOrder);
401                break;
402            default:
403                throw RipleyException("writeBinaryGrid(): invalid or unsupported datatype");
404        }
405    }
406    
407    template<typename ValueType>
408    void Rectangle::writeBinaryGridImpl(const escript::Data& in,
409                                        const string& filename, int byteOrder) const
410    {
411        // check function space and determine number of points
412        int myN0, myN1;
413        int totalN0, totalN1;
414        if (in.getFunctionSpace().getTypeCode() == Nodes) {
415            myN0 = m_NN[0];
416            myN1 = m_NN[1];
417            totalN0 = m_gNE[0]+1;
418            totalN1 = m_gNE[1]+1;
419        } else if (in.getFunctionSpace().getTypeCode() == Elements ||
420                    in.getFunctionSpace().getTypeCode() == ReducedElements) {
421            myN0 = m_NE[0];
422            myN1 = m_NE[1];
423            totalN0 = m_gNE[0];
424            totalN1 = m_gNE[1];
425        } else
426            throw RipleyException("writeBinaryGrid(): invalid function space of data object");
427    
428        const int numComp = in.getDataPointSize();
429        const int dpp = in.getNumDataPointsPerSample();
430    
431        if (numComp > 1 || dpp > 1)
432            throw RipleyException("writeBinaryGrid(): only scalar, single-value data supported");
433    
434        escript::Data* _in = const_cast<escript::Data*>(&in);
435        const int fileSize = sizeof(ValueType)*numComp*dpp*totalN0*totalN1;
436    
437        // from here on we know that each sample consists of one value
438        FileWriter fw;
439        fw.openFile(filename, fileSize);
440        MPIBarrier();
441    
442        for (index_t y=0; y<myN1; y++) {
443            const int fileofs = (m_offset[0]+(m_offset[1]+y)*totalN0)*sizeof(ValueType);
444            ostringstream oss;
445    
446            for (index_t x=0; x<myN0; x++) {
447                const double* sample = _in->getSampleDataRO(y*myN0+x);
448                ValueType fvalue = static_cast<ValueType>(*sample);
449                if (byteOrder == BYTEORDER_NATIVE) {
450                    oss.write((char*)&fvalue, sizeof(fvalue));
451                } else {
452                    char* value = reinterpret_cast<char*>(&fvalue);
453                    oss.write(byte_swap32(value), sizeof(fvalue));
454                }
455            }
456            fw.writeAt(oss, fileofs);
457        }
458        fw.close();
459    }
460    
461  void Rectangle::dump(const string& fileName) const  void Rectangle::dump(const string& fileName) const
462  {  {
463  #if USE_SILO  #if USE_SILO
# Line 114  void Rectangle::dump(const string& fileN Line 466  void Rectangle::dump(const string& fileN
466          fn+=".silo";          fn+=".silo";
467      }      }
468    
     const int NUM_SILO_FILES = 1;  
     const char* blockDirFmt = "/block%04d";  
469      int driver=DB_HDF5;          int driver=DB_HDF5;    
470      DBfile* dbfile = NULL;      DBfile* dbfile = NULL;
471        const char* blockDirFmt = "/block%04d";
472    
473  #ifdef ESYS_MPI  #ifdef ESYS_MPI
474      PMPIO_baton_t* baton = NULL;      PMPIO_baton_t* baton = NULL;
475        const int NUM_SILO_FILES = 1;
476  #endif  #endif
477    
478      if (m_mpiInfo->size > 1) {      if (m_mpiInfo->size > 1) {
# Line 168  void Rectangle::dump(const string& fileN Line 520  void Rectangle::dump(const string& fileN
520      }      }
521      */      */
522    
523      boost::scoped_ptr<double> x(new double[m_N0]);      boost::scoped_ptr<double> x(new double[m_NN[0]]);
524      boost::scoped_ptr<double> y(new double[m_N1]);      boost::scoped_ptr<double> y(new double[m_NN[1]]);
525      double* coords[2] = { x.get(), y.get() };      double* coords[2] = { x.get(), y.get() };
     pair<double,double> xdx = getFirstCoordAndSpacing(0);  
     pair<double,double> ydy = getFirstCoordAndSpacing(1);  
526  #pragma omp parallel  #pragma omp parallel
527      {      {
528  #pragma omp for nowait  #pragma omp for nowait
529          for (dim_t i0 = 0; i0 < m_N0; i0++) {          for (dim_t i0 = 0; i0 < m_NN[0]; i0++) {
530              coords[0][i0]=xdx.first+i0*xdx.second;              coords[0][i0]=getLocalCoordinate(i0, 0);
531          }          }
532  #pragma omp for nowait  #pragma omp for nowait
533          for (dim_t i1 = 0; i1 < m_N1; i1++) {          for (dim_t i1 = 0; i1 < m_NN[1]; i1++) {
534              coords[1][i1]=ydy.first+i1*ydy.second;              coords[1][i1]=getLocalCoordinate(i1, 1);
535          }          }
536      }      }
537      IndexVector dims = getNumNodesPerDim();      int* dims = const_cast<int*>(getNumNodesPerDim());
538    
539      // write mesh      // write mesh
540      DBPutQuadmesh(dbfile, "mesh", NULL, coords, &dims[0], 2, DB_DOUBLE,      DBPutQuadmesh(dbfile, "mesh", NULL, coords, dims, 2, DB_DOUBLE,
541              DB_COLLINEAR, NULL);              DB_COLLINEAR, NULL);
542    
543      // write node ids      // write node ids
544      DBPutQuadvar1(dbfile, "nodeId", "mesh", (void*)&m_nodeId[0], &dims[0], 2,      DBPutQuadvar1(dbfile, "nodeId", "mesh", (void*)&m_nodeId[0], dims, 2,
545              NULL, 0, DB_INT, DB_NODECENT, NULL);              NULL, 0, DB_INT, DB_NODECENT, NULL);
546    
547      // write element ids      // write element ids
548      dims = getNumElementsPerDim();      dims = const_cast<int*>(getNumElementsPerDim());
549      DBPutQuadvar1(dbfile, "elementId", "mesh", (void*)&m_elementId[0],      DBPutQuadvar1(dbfile, "elementId", "mesh", (void*)&m_elementId[0],
550              &dims[0], 2, NULL, 0, DB_INT, DB_ZONECENT, NULL);              dims, 2, NULL, 0, DB_INT, DB_ZONECENT, NULL);
551    
552      // rank 0 writes multimesh and multivar      // rank 0 writes multimesh and multivar
553      if (m_mpiInfo->rank == 0) {      if (m_mpiInfo->rank == 0) {
# Line 289  bool Rectangle::ownSample(int fsType, in Line 639  bool Rectangle::ownSample(int fsType, in
639          case Elements:          case Elements:
640          case ReducedElements:          case ReducedElements:
641              // check ownership of element's bottom left node              // check ownership of element's bottom left node
642              return (m_dofMap[id%m_NE0+m_N0*(id/m_NE0)] < getNumDOF());              return (m_dofMap[id%m_NE[0]+m_NN[0]*(id/m_NE[0])] < getNumDOF());
643          case FaceElements:          case FaceElements:
644          case ReducedFaceElements:          case ReducedFaceElements:
645              {              {
646                  // determine which face the sample belongs to before                  // determine which face the sample belongs to before
647                  // checking ownership of corresponding element's first node                  // checking ownership of corresponding element's first node
                 const IndexVector faces = getNumFacesPerBoundary();  
648                  dim_t n=0;                  dim_t n=0;
649                  for (size_t i=0; i<faces.size(); i++) {                  for (size_t i=0; i<4; i++) {
650                      n+=faces[i];                      n+=m_faceCount[i];
651                      if (id<n) {                      if (id<n) {
652                          index_t k;                          index_t k;
653                          if (i==1)                          if (i==1)
654                              k=m_N0-2;                              k=m_NN[0]-2;
655                          else if (i==3)                          else if (i==3)
656                              k=m_N0*(m_N1-2);                              k=m_NN[0]*(m_NN[1]-2);
657                          else                          else
658                              k=0;                              k=0;
659                          // determine whether to move right or up                          // determine whether to move right or up
660                          const index_t delta=(i/2==0 ? m_N0 : 1);                          const index_t delta=(i/2==0 ? m_NN[0] : 1);
661                          return (m_dofMap[k+(id-n+faces[i])*delta] < getNumDOF());                          return (m_dofMap[k+(id-n+m_faceCount[i])*delta] < getNumDOF());
662                      }                      }
663                  }                  }
664                  return false;                  return false;
# Line 331  void Rectangle::setToNormal(escript::Dat Line 680  void Rectangle::setToNormal(escript::Dat
680          {          {
681              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
682  #pragma omp for nowait  #pragma omp for nowait
683                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
684                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
685                      // set vector at two quadrature points                      // set vector at two quadrature points
686                      *o++ = -1.;                      *o++ = -1.;
# Line 343  void Rectangle::setToNormal(escript::Dat Line 692  void Rectangle::setToNormal(escript::Dat
692    
693              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
694  #pragma omp for nowait  #pragma omp for nowait
695                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
696                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
697                      // set vector at two quadrature points                      // set vector at two quadrature points
698                      *o++ = 1.;                      *o++ = 1.;
# Line 355  void Rectangle::setToNormal(escript::Dat Line 704  void Rectangle::setToNormal(escript::Dat
704    
705              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
706  #pragma omp for nowait  #pragma omp for nowait
707                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
708                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
709                      // set vector at two quadrature points                      // set vector at two quadrature points
710                      *o++ = 0.;                      *o++ = 0.;
# Line 367  void Rectangle::setToNormal(escript::Dat Line 716  void Rectangle::setToNormal(escript::Dat
716    
717              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
718  #pragma omp for nowait  #pragma omp for nowait
719                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
720                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
721                      // set vector at two quadrature points                      // set vector at two quadrature points
722                      *o++ = 0.;                      *o++ = 0.;
# Line 383  void Rectangle::setToNormal(escript::Dat Line 732  void Rectangle::setToNormal(escript::Dat
732          {          {
733              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
734  #pragma omp for nowait  #pragma omp for nowait
735                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
736                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
737                      *o++ = -1.;                      *o++ = -1.;
738                      *o = 0.;                      *o = 0.;
# Line 392  void Rectangle::setToNormal(escript::Dat Line 741  void Rectangle::setToNormal(escript::Dat
741    
742              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
743  #pragma omp for nowait  #pragma omp for nowait
744                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
745                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
746                      *o++ = 1.;                      *o++ = 1.;
747                      *o = 0.;                      *o = 0.;
# Line 401  void Rectangle::setToNormal(escript::Dat Line 750  void Rectangle::setToNormal(escript::Dat
750    
751              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
752  #pragma omp for nowait  #pragma omp for nowait
753                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
754                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
755                      *o++ = 0.;                      *o++ = 0.;
756                      *o = -1.;                      *o = -1.;
# Line 410  void Rectangle::setToNormal(escript::Dat Line 759  void Rectangle::setToNormal(escript::Dat
759    
760              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
761  #pragma omp for nowait  #pragma omp for nowait
762                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
763                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
764                      *o++ = 0.;                      *o++ = 0.;
765                      *o = 1.;                      *o = 1.;
# Line 432  void Rectangle::setToSize(escript::Data& Line 781  void Rectangle::setToSize(escript::Data&
781              || out.getFunctionSpace().getTypeCode() == ReducedElements) {              || out.getFunctionSpace().getTypeCode() == ReducedElements) {
782          out.requireWrite();          out.requireWrite();
783          const dim_t numQuad=out.getNumDataPointsPerSample();          const dim_t numQuad=out.getNumDataPointsPerSample();
784          const double hSize=getFirstCoordAndSpacing(0).second;          const double size=sqrt(m_dx[0]*m_dx[0]+m_dx[1]*m_dx[1]);
         const double vSize=getFirstCoordAndSpacing(1).second;  
         const double size=min(hSize,vSize);  
785  #pragma omp parallel for  #pragma omp parallel for
786          for (index_t k = 0; k < getNumElements(); ++k) {          for (index_t k = 0; k < getNumElements(); ++k) {
787              double* o = out.getSampleDataRW(k);              double* o = out.getSampleDataRW(k);
# Line 444  void Rectangle::setToSize(escript::Data& Line 791  void Rectangle::setToSize(escript::Data&
791              || out.getFunctionSpace().getTypeCode() == ReducedFaceElements) {              || out.getFunctionSpace().getTypeCode() == ReducedFaceElements) {
792          out.requireWrite();          out.requireWrite();
793          const dim_t numQuad=out.getNumDataPointsPerSample();          const dim_t numQuad=out.getNumDataPointsPerSample();
         const double hSize=getFirstCoordAndSpacing(0).second;  
         const double vSize=getFirstCoordAndSpacing(1).second;  
794  #pragma omp parallel  #pragma omp parallel
795          {          {
796              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
797  #pragma omp for nowait  #pragma omp for nowait
798                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
799                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
800                      fill(o, o+numQuad, vSize);                      fill(o, o+numQuad, m_dx[1]);
801                  }                  }
802              }              }
803    
804              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
805  #pragma omp for nowait  #pragma omp for nowait
806                  for (index_t k1 = 0; k1 < m_NE1; ++k1) {                  for (index_t k1 = 0; k1 < m_NE[1]; ++k1) {
807                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
808                      fill(o, o+numQuad, vSize);                      fill(o, o+numQuad, m_dx[1]);
809                  }                  }
810              }              }
811    
812              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
813  #pragma omp for nowait  #pragma omp for nowait
814                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
815                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
816                      fill(o, o+numQuad, hSize);                      fill(o, o+numQuad, m_dx[0]);
817                  }                  }
818              }              }
819    
820              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
821  #pragma omp for nowait  #pragma omp for nowait
822                  for (index_t k0 = 0; k0 < m_NE0; ++k0) {                  for (index_t k0 = 0; k0 < m_NE[0]; ++k0) {
823                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
824                      fill(o, o+numQuad, hSize);                      fill(o, o+numQuad, m_dx[0]);
825                  }                  }
826              }              }
827          } // end of parallel section          } // end of parallel section
# Line 489  void Rectangle::setToSize(escript::Data& Line 834  void Rectangle::setToSize(escript::Data&
834      }      }
835  }  }
836    
 Paso_SystemMatrixPattern* Rectangle::getPattern(bool reducedRowOrder,  
                                                 bool reducedColOrder) const  
 {  
     /* FIXME: reduced  
     if (reducedRowOrder || reducedColOrder)  
         throw RipleyException("getPattern() not implemented for reduced order");  
     */  
     return m_pattern;  
 }  
   
837  void Rectangle::Print_Mesh_Info(const bool full) const  void Rectangle::Print_Mesh_Info(const bool full) const
838  {  {
839      RipleyDomain::Print_Mesh_Info(full);      RipleyDomain::Print_Mesh_Info(full);
# Line 506  void Rectangle::Print_Mesh_Info(const bo Line 841  void Rectangle::Print_Mesh_Info(const bo
841          cout << "     Id  Coordinates" << endl;          cout << "     Id  Coordinates" << endl;
842          cout.precision(15);          cout.precision(15);
843          cout.setf(ios::scientific, ios::floatfield);          cout.setf(ios::scientific, ios::floatfield);
         pair<double,double> xdx = getFirstCoordAndSpacing(0);  
         pair<double,double> ydy = getFirstCoordAndSpacing(1);  
844          for (index_t i=0; i < getNumNodes(); i++) {          for (index_t i=0; i < getNumNodes(); i++) {
845              cout << "  " << setw(5) << m_nodeId[i]              cout << "  " << setw(5) << m_nodeId[i]
846                  << "  " << xdx.first+(i%m_N0)*xdx.second                  << "  " << getLocalCoordinate(i%m_NN[0], 0)
847                  << "  " << ydy.first+(i/m_N0)*ydy.second << endl;                  << "  " << getLocalCoordinate(i/m_NN[0], 1) << endl;
848          }          }
849      }      }
850  }  }
851    
 IndexVector Rectangle::getNumNodesPerDim() const  
 {  
     IndexVector ret;  
     ret.push_back(m_N0);  
     ret.push_back(m_N1);  
     return ret;  
 }  
   
 IndexVector Rectangle::getNumElementsPerDim() const  
 {  
     IndexVector ret;  
     ret.push_back(m_NE0);  
     ret.push_back(m_NE1);  
     return ret;  
 }  
   
 IndexVector Rectangle::getNumFacesPerBoundary() const  
 {  
     IndexVector ret(4, 0);  
     //left  
     if (m_offset0==0)  
         ret[0]=m_NE1;  
     //right  
     if (m_mpiInfo->rank%m_NX==m_NX-1)  
         ret[1]=m_NE1;  
     //bottom  
     if (m_offset1==0)  
         ret[2]=m_NE0;  
     //top  
     if (m_mpiInfo->rank/m_NX==m_NY-1)  
         ret[3]=m_NE0;  
     return ret;  
 }  
   
 IndexVector Rectangle::getNumSubdivisionsPerDim() const  
 {  
     IndexVector ret;  
     ret.push_back(m_NX);  
     ret.push_back(m_NY);  
     return ret;  
 }  
   
 pair<double,double> Rectangle::getFirstCoordAndSpacing(dim_t dim) const  
 {  
     if (dim==0) {  
         return pair<double,double>(m_x0+(m_l0*m_offset0)/m_gNE0, m_l0/m_gNE0);  
     } else if (dim==1) {  
         return pair<double,double>(m_y0+(m_l1*m_offset1)/m_gNE1, m_l1/m_gNE1);  
     }  
     throw RipleyException("getFirstCoordAndSpacing: invalid argument");  
 }  
   
 //protected  
 dim_t Rectangle::getNumDOF() const  
 {  
     return (m_gNE0+1)/m_NX*(m_gNE1+1)/m_NY;  
 }  
   
 //protected  
 dim_t Rectangle::getNumFaceElements() const  
 {  
     const IndexVector faces = getNumFacesPerBoundary();  
     dim_t n=0;  
     for (size_t i=0; i<faces.size(); i++)  
         n+=faces[i];  
     return n;  
 }  
852    
853  //protected  //protected
854  void Rectangle::assembleCoordinates(escript::Data& arg) const  void Rectangle::assembleCoordinates(escript::Data& arg) const
# Line 594  void Rectangle::assembleCoordinates(escr Line 860  void Rectangle::assembleCoordinates(escr
860      if (!numSamplesEqual(&x, 1, getNumNodes()))      if (!numSamplesEqual(&x, 1, getNumNodes()))
861          throw RipleyException("setToX: Illegal number of samples in Data object");          throw RipleyException("setToX: Illegal number of samples in Data object");
862    
     pair<double,double> xdx = getFirstCoordAndSpacing(0);  
     pair<double,double> ydy = getFirstCoordAndSpacing(1);  
863      arg.requireWrite();      arg.requireWrite();
864  #pragma omp parallel for  #pragma omp parallel for
865      for (dim_t i1 = 0; i1 < m_N1; i1++) {      for (dim_t i1 = 0; i1 < m_NN[1]; i1++) {
866          for (dim_t i0 = 0; i0 < m_N0; i0++) {          for (dim_t i0 = 0; i0 < m_NN[0]; i0++) {
867              double* point = arg.getSampleDataRW(i0+m_N0*i1);              double* point = arg.getSampleDataRW(i0+m_NN[0]*i1);
868              point[0] = xdx.first+i0*xdx.second;              point[0] = getLocalCoordinate(i0, 0);
869              point[1] = ydy.first+i1*ydy.second;              point[1] = getLocalCoordinate(i1, 1);
870          }          }
871      }      }
872  }  }
# Line 611  void Rectangle::assembleCoordinates(escr Line 875  void Rectangle::assembleCoordinates(escr
875  void Rectangle::assembleGradient(escript::Data& out, escript::Data& in) const  void Rectangle::assembleGradient(escript::Data& out, escript::Data& in) const
876  {  {
877      const dim_t numComp = in.getDataPointSize();      const dim_t numComp = in.getDataPointSize();
878      const double h0 = m_l0/m_gNE0;      const double cx0 = .21132486540518711775/m_dx[0];
879      const double h1 = m_l1/m_gNE1;      const double cx1 = .78867513459481288225/m_dx[0];
880      const double cx0 = -1./h0;      const double cx2 = 1./m_dx[0];
881      const double cx1 = -.78867513459481288225/h0;      const double cy0 = .21132486540518711775/m_dx[1];
882      const double cx2 = -.5/h0;      const double cy1 = .78867513459481288225/m_dx[1];
883      const double cx3 = -.21132486540518711775/h0;      const double cy2 = 1./m_dx[1];
     const double cx4 = .21132486540518711775/h0;  
     const double cx5 = .5/h0;  
     const double cx6 = .78867513459481288225/h0;  
     const double cx7 = 1./h0;  
     const double cy0 = -1./h1;  
     const double cy1 = -.78867513459481288225/h1;  
     const double cy2 = -.5/h1;  
     const double cy3 = -.21132486540518711775/h1;  
     const double cy4 = .21132486540518711775/h1;  
     const double cy5 = .5/h1;  
     const double cy6 = .78867513459481288225/h1;  
     const double cy7 = 1./h1;  
884    
885      if (out.getFunctionSpace().getTypeCode() == Elements) {      if (out.getFunctionSpace().getTypeCode() == Elements) {
886          out.requireWrite();          out.requireWrite();
887  #pragma omp parallel for  #pragma omp parallel
888          for (index_t k1=0; k1 < m_NE1; ++k1) {          {
889              for (index_t k0=0; k0 < m_NE0; ++k0) {              vector<double> f_00(numComp);
890                  const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,k1, m_N0));              vector<double> f_01(numComp);
891                  const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,k1+1, m_N0));              vector<double> f_10(numComp);
892                  const double* f_01 = in.getSampleDataRO(INDEX2(k0,k1+1, m_N0));              vector<double> f_11(numComp);
893                  const double* f_00 = in.getSampleDataRO(INDEX2(k0,k1, m_N0));  #pragma omp for
894                  double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE0));              for (index_t k1=0; k1 < m_NE[1]; ++k1) {
895                  for (index_t i=0; i < numComp; ++i) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
896                      o[INDEX3(i,0,0,numComp,2)] = f_00[i]*cx1 + f_01[i]*cx3 + f_10[i]*cx6 + f_11[i]*cx4;                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,k1, m_NN[0])), numComp*sizeof(double));
897                      o[INDEX3(i,1,0,numComp,2)] = f_00[i]*cy1 + f_01[i]*cy6 + f_10[i]*cy3 + f_11[i]*cy4;                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,k1+1, m_NN[0])), numComp*sizeof(double));
898                      o[INDEX3(i,0,1,numComp,2)] = f_00[i]*cx1 + f_01[i]*cx3 + f_10[i]*cx6 + f_11[i]*cx4;                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,k1, m_NN[0])), numComp*sizeof(double));
899                      o[INDEX3(i,1,1,numComp,2)] = f_00[i]*cy3 + f_01[i]*cy4 + f_10[i]*cy1 + f_11[i]*cy6;                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,k1+1, m_NN[0])), numComp*sizeof(double));
900                      o[INDEX3(i,0,2,numComp,2)] = f_00[i]*cx3 + f_01[i]*cx1 + f_10[i]*cx4 + f_11[i]*cx6;                      double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE[0]));
901                      o[INDEX3(i,1,2,numComp,2)] = f_00[i]*cy1 + f_01[i]*cy6 + f_10[i]*cy3 + f_11[i]*cy4;                      for (index_t i=0; i < numComp; ++i) {
902                      o[INDEX3(i,0,3,numComp,2)] = f_00[i]*cx3 + f_01[i]*cx1 + f_10[i]*cx4 + f_11[i]*cx6;                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i]-f_00[i])*cx1 + (f_11[i]-f_01[i])*cx0;
903                      o[INDEX3(i,1,3,numComp,2)] = f_00[i]*cy3 + f_01[i]*cy4 + f_10[i]*cy1 + f_11[i]*cy6;                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i]-f_00[i])*cy1 + (f_11[i]-f_10[i])*cy0;
904                  } /* end of component loop i */                          o[INDEX3(i,0,1,numComp,2)] = (f_10[i]-f_00[i])*cx1 + (f_11[i]-f_01[i])*cx0;
905              } /* end of k0 loop */                          o[INDEX3(i,1,1,numComp,2)] = (f_01[i]-f_00[i])*cy0 + (f_11[i]-f_10[i])*cy1;
906          } /* end of k1 loop */                          o[INDEX3(i,0,2,numComp,2)] = (f_10[i]-f_00[i])*cx0 + (f_11[i]-f_01[i])*cx1;
907                            o[INDEX3(i,1,2,numComp,2)] = (f_01[i]-f_00[i])*cy1 + (f_11[i]-f_10[i])*cy0;
908                            o[INDEX3(i,0,3,numComp,2)] = (f_10[i]-f_00[i])*cx0 + (f_11[i]-f_01[i])*cx1;
909                            o[INDEX3(i,1,3,numComp,2)] = (f_01[i]-f_00[i])*cy0 + (f_11[i]-f_10[i])*cy1;
910                        } // end of component loop i
911                    } // end of k0 loop
912                } // end of k1 loop
913            } // end of parallel section
914      } else if (out.getFunctionSpace().getTypeCode() == ReducedElements) {      } else if (out.getFunctionSpace().getTypeCode() == ReducedElements) {
915          out.requireWrite();          out.requireWrite();
916  #pragma omp parallel for  #pragma omp parallel
917          for (index_t k1=0; k1 < m_NE1; ++k1) {          {
918              for (index_t k0=0; k0 < m_NE0; ++k0) {              vector<double> f_00(numComp);
919                  const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,k1, m_N0));              vector<double> f_01(numComp);
920                  const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,k1+1, m_N0));              vector<double> f_10(numComp);
921                  const double* f_01 = in.getSampleDataRO(INDEX2(k0,k1+1, m_N0));              vector<double> f_11(numComp);
922                  const double* f_00 = in.getSampleDataRO(INDEX2(k0,k1, m_N0));  #pragma omp for
923                  double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE0));              for (index_t k1=0; k1 < m_NE[1]; ++k1) {
924                  for (index_t i=0; i < numComp; ++i) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
925                      o[INDEX3(i,0,0,numComp,2)] = cx5*(f_10[i] + f_11[i]) + cx2*(f_00[i] + f_01[i]);                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,k1, m_NN[0])), numComp*sizeof(double));
926                      o[INDEX3(i,1,0,numComp,2)] = cy2*(f_00[i] + f_10[i]) + cy5*(f_01[i] + f_11[i]);                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,k1+1, m_NN[0])), numComp*sizeof(double));
927                  } /* end of component loop i */                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,k1, m_NN[0])), numComp*sizeof(double));
928              } /* end of k0 loop */                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,k1+1, m_NN[0])), numComp*sizeof(double));
929          } /* end of k1 loop */                      double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE[0]));
930                        for (index_t i=0; i < numComp; ++i) {
931                            o[INDEX3(i,0,0,numComp,2)] = (f_10[i] + f_11[i] - f_00[i] - f_01[i])*cx2/2;
932                            o[INDEX3(i,1,0,numComp,2)] = (f_01[i] + f_11[i] - f_00[i] - f_10[i])*cy2/2;
933                        } // end of component loop i
934                    } // end of k0 loop
935                } // end of k1 loop
936            } // end of parallel section
937      } else if (out.getFunctionSpace().getTypeCode() == FaceElements) {      } else if (out.getFunctionSpace().getTypeCode() == FaceElements) {
938          out.requireWrite();          out.requireWrite();
939  #pragma omp parallel  #pragma omp parallel
940          {          {
941                vector<double> f_00(numComp);
942                vector<double> f_01(numComp);
943                vector<double> f_10(numComp);
944                vector<double> f_11(numComp);
945              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
946  #pragma omp for nowait  #pragma omp for nowait
947                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
948                      const double* f_10 = in.getSampleDataRO(INDEX2(1,k1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(0,k1, m_NN[0])), numComp*sizeof(double));
949                      const double* f_11 = in.getSampleDataRO(INDEX2(1,k1+1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(0,k1+1, m_NN[0])), numComp*sizeof(double));
950                      const double* f_01 = in.getSampleDataRO(INDEX2(0,k1+1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(1,k1, m_NN[0])), numComp*sizeof(double));
951                      const double* f_00 = in.getSampleDataRO(INDEX2(0,k1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(1,k1+1, m_NN[0])), numComp*sizeof(double));
952                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
953                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
954                          o[INDEX3(i,0,0,numComp,2)] = f_00[i]*cx1 + f_01[i]*cx3 + f_10[i]*cx6 + f_11[i]*cx4;                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i]-f_00[i])*cx1 + (f_11[i]-f_01[i])*cx0;
955                          o[INDEX3(i,1,0,numComp,2)] = f_00[i]*cy0 + f_01[i]*cy7;                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i]-f_00[i])*cy2;
956                          o[INDEX3(i,0,1,numComp,2)] = f_00[i]*cx3 + f_01[i]*cx1 + f_10[i]*cx4 + f_11[i]*cx6;                          o[INDEX3(i,0,1,numComp,2)] = (f_10[i]-f_00[i])*cx0 + (f_11[i]-f_01[i])*cx1;
957                          o[INDEX3(i,1,1,numComp,2)] = f_00[i]*cy0 + f_01[i]*cy7;                          o[INDEX3(i,1,1,numComp,2)] = (f_01[i]-f_00[i])*cy2;
958                      } /* end of component loop i */                      } // end of component loop i
959                  } /* end of k1 loop */                  } // end of k1 loop
960              } /* end of face 0 */              } // end of face 0
961              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
962  #pragma omp for nowait  #pragma omp for nowait
963                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
964                      const double* f_10 = in.getSampleDataRO(INDEX2(m_N0-1,k1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(m_NN[0]-2,k1, m_NN[0])), numComp*sizeof(double));
965                      const double* f_11 = in.getSampleDataRO(INDEX2(m_N0-1,k1+1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(m_NN[0]-2,k1+1, m_NN[0])), numComp*sizeof(double));
966                      const double* f_01 = in.getSampleDataRO(INDEX2(m_N0-2,k1+1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1, m_NN[0])), numComp*sizeof(double));
967                      const double* f_00 = in.getSampleDataRO(INDEX2(m_N0-2,k1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1+1, m_NN[0])), numComp*sizeof(double));
968                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
969                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
970                          o[INDEX3(i,0,0,numComp,2)] = f_00[i]*cx1 + f_01[i]*cx3 + f_10[i]*cx6 + f_11[i]*cx4;                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i]-f_00[i])*cx1 + (f_11[i]-f_01[i])*cx0;
971                          o[INDEX3(i,1,0,numComp,2)] = f_10[i]*cy0 + f_11[i]*cy7;                          o[INDEX3(i,1,0,numComp,2)] = (f_11[i]-f_10[i])*cy2;
972                          o[INDEX3(i,0,1,numComp,2)] = f_00[i]*cx3 + f_01[i]*cx1 + f_10[i]*cx4 + f_11[i]*cx6;                          o[INDEX3(i,0,1,numComp,2)] = (f_10[i]-f_00[i])*cx0 + (f_11[i]-f_01[i])*cx1;
973                          o[INDEX3(i,1,1,numComp,2)] = f_10[i]*cy0 + f_11[i]*cy7;                          o[INDEX3(i,1,1,numComp,2)] = (f_11[i]-f_10[i])*cy2;
974                      } /* end of component loop i */                      } // end of component loop i
975                  } /* end of k1 loop */                  } // end of k1 loop
976              } /* end of face 1 */              } // end of face 1
977              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
978  #pragma omp for nowait  #pragma omp for nowait
979                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
980                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,0, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,0, m_NN[0])), numComp*sizeof(double));
981                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,0, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,1, m_NN[0])), numComp*sizeof(double));
982                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,0, m_NN[0])), numComp*sizeof(double));
983                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,1, m_NN[0])), numComp*sizeof(double));
984                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
985                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
986                          o[INDEX3(i,0,0,numComp,2)] = f_00[i]*cx0 + f_10[i]*cx7;                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i]-f_00[i])*cx2;
987                          o[INDEX3(i,1,0,numComp,2)] = f_00[i]*cy1 + f_01[i]*cy6 + f_10[i]*cy3 + f_11[i]*cy4;                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i]-f_00[i])*cy1 + (f_11[i]-f_10[i])*cy0;
988                          o[INDEX3(i,0,1,numComp,2)] = f_00[i]*cx0 + f_10[i]*cx7;                          o[INDEX3(i,0,1,numComp,2)] = (f_10[i]-f_00[i])*cx2;
989                          o[INDEX3(i,1,1,numComp,2)] = f_00[i]*cy3 + f_01[i]*cy4 + f_10[i]*cy1 + f_11[i]*cy6;                          o[INDEX3(i,1,1,numComp,2)] = (f_01[i]-f_00[i])*cy0 + (f_11[i]-f_10[i])*cy1;
990                      } /* end of component loop i */                      } // end of component loop i
991                  } /* end of k0 loop */                  } // end of k0 loop
992              } /* end of face 2 */              } // end of face 2
993              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
994  #pragma omp for nowait  #pragma omp for nowait
995                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
996                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,m_N1-1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-2, m_NN[0])), numComp*sizeof(double));
997                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,m_N1-1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
998                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,m_N1-2, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-2, m_NN[0])), numComp*sizeof(double));
999                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,m_N1-2, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1000                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
1001                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1002                          o[INDEX3(i,0,0,numComp,2)] = f_01[i]*cx0 + f_11[i]*cx7;                          o[INDEX3(i,0,0,numComp,2)] = (f_11[i]-f_01[i])*cx2;
1003                          o[INDEX3(i,1,0,numComp,2)] = f_00[i]*cy1 + f_01[i]*cy6 + f_10[i]*cy3 + f_11[i]*cy4;                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i]-f_00[i])*cy1 + (f_11[i]-f_10[i])*cy0;
1004                          o[INDEX3(i,0,1,numComp,2)] = f_01[i]*cx0 + f_11[i]*cx7;                          o[INDEX3(i,0,1,numComp,2)] = (f_11[i]-f_01[i])*cx2;
1005                          o[INDEX3(i,1,1,numComp,2)] = f_00[i]*cy3 + f_01[i]*cy4 + f_10[i]*cy1 + f_11[i]*cy6;                          o[INDEX3(i,1,1,numComp,2)] = (f_01[i]-f_00[i])*cy0 + (f_11[i]-f_10[i])*cy1;
1006                      } /* end of component loop i */                      } // end of component loop i
1007                  } /* end of k0 loop */                  } // end of k0 loop
1008              } /* end of face 3 */              } // end of face 3
1009          } // end of parallel section          } // end of parallel section
1010    
1011      } else if (out.getFunctionSpace().getTypeCode() == ReducedFaceElements) {      } else if (out.getFunctionSpace().getTypeCode() == ReducedFaceElements) {
1012          out.requireWrite();          out.requireWrite();
1013  #pragma omp parallel  #pragma omp parallel
1014          {          {
1015                vector<double> f_00(numComp);
1016                vector<double> f_01(numComp);
1017                vector<double> f_10(numComp);
1018                vector<double> f_11(numComp);
1019              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
1020  #pragma omp for nowait  #pragma omp for nowait
1021                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1022                      const double* f_10 = in.getSampleDataRO(INDEX2(1,k1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(0,k1, m_NN[0])), numComp*sizeof(double));
1023                      const double* f_11 = in.getSampleDataRO(INDEX2(1,k1+1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(0,k1+1, m_NN[0])), numComp*sizeof(double));
1024                      const double* f_01 = in.getSampleDataRO(INDEX2(0,k1+1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(1,k1, m_NN[0])), numComp*sizeof(double));
1025                      const double* f_00 = in.getSampleDataRO(INDEX2(0,k1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(1,k1+1, m_NN[0])), numComp*sizeof(double));
1026                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
1027                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1028                          o[INDEX3(i,0,0,numComp,2)] = cx5*(f_10[i] + f_11[i]) + cx2*(f_00[i] + f_01[i]);                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i] + f_11[i] - f_00[i] - f_01[i])*cx2/2;
1029                          o[INDEX3(i,1,0,numComp,2)] = f_00[i]*cy0 + f_01[i]*cy7;                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i]-f_00[i])*cy2;
1030                      } /* end of component loop i */                      } // end of component loop i
1031                  } /* end of k1 loop */                  } // end of k1 loop
1032              } /* end of face 0 */              } // end of face 0
1033              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
1034  #pragma omp for nowait  #pragma omp for nowait
1035                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1036                      const double* f_10 = in.getSampleDataRO(INDEX2(m_N0-1,k1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(m_NN[0]-2,k1, m_NN[0])), numComp*sizeof(double));
1037                      const double* f_11 = in.getSampleDataRO(INDEX2(m_N0-1,k1+1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(m_NN[0]-2,k1+1, m_NN[0])), numComp*sizeof(double));
1038                      const double* f_01 = in.getSampleDataRO(INDEX2(m_N0-2,k1+1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1, m_NN[0])), numComp*sizeof(double));
1039                      const double* f_00 = in.getSampleDataRO(INDEX2(m_N0-2,k1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1+1, m_NN[0])), numComp*sizeof(double));
1040                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
1041                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1042                          o[INDEX3(i,0,0,numComp,2)] = cx5*(f_10[i] + f_11[i]) + cx2*(f_00[i] + f_01[i]);                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i] + f_11[i] - f_00[i] - f_01[i])*cx2/2;
1043                          o[INDEX3(i,1,0,numComp,2)] = f_10[i]*cy0 + f_11[i]*cy7;                          o[INDEX3(i,1,0,numComp,2)] = (f_11[i]-f_10[i])*cy2;
1044                      } /* end of component loop i */                      } // end of component loop i
1045                  } /* end of k1 loop */                  } // end of k1 loop
1046              } /* end of face 1 */              } // end of face 1
1047              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
1048  #pragma omp for nowait  #pragma omp for nowait
1049                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1050                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,0, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,0, m_NN[0])), numComp*sizeof(double));
1051                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,0, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,1, m_NN[0])), numComp*sizeof(double));
1052                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,0, m_NN[0])), numComp*sizeof(double));
1053                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,1, m_NN[0])), numComp*sizeof(double));
1054                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
1055                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1056                          o[INDEX3(i,0,0,numComp,2)] = f_00[i]*cx0 + f_10[i]*cx7;                          o[INDEX3(i,0,0,numComp,2)] = (f_10[i]-f_00[i])*cx2;
1057                          o[INDEX3(i,1,0,numComp,2)] = cy2*(f_00[i] + f_10[i]) + cy5*(f_01[i] + f_11[i]);                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i] + f_11[i] - f_00[i] - f_10[i])*cy2/2;
1058                      } /* end of component loop i */                      } // end of component loop i
1059                  } /* end of k0 loop */                  } // end of k0 loop
1060              } /* end of face 2 */              } // end of face 2
1061              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
1062  #pragma omp for nowait  #pragma omp for nowait
1063                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1064                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,m_N1-1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-2, m_NN[0])), numComp*sizeof(double));
1065                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,m_N1-1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1066                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,m_N1-2, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-2, m_NN[0])), numComp*sizeof(double));
1067                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,m_N1-2, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1068                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
1069                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1070                          o[INDEX3(i,0,0,numComp,2)] = f_01[i]*cx0 + f_11[i]*cx7;                          o[INDEX3(i,0,0,numComp,2)] = (f_11[i]-f_01[i])*cx2;
1071                          o[INDEX3(i,1,0,numComp,2)] = cy5*(f_01[i] + f_11[i]) + cy2*(f_00[i] + f_10[i]);                          o[INDEX3(i,1,0,numComp,2)] = (f_01[i] + f_11[i] - f_00[i] - f_10[i])*cy2/2;
1072                      } /* end of component loop i */                      } // end of component loop i
1073                  } /* end of k0 loop */                  } // end of k0 loop
1074              } /* end of face 3 */              } // end of face 3
1075          } // end of parallel section          } // end of parallel section
1076      }      }
1077  }  }
# Line 805  void Rectangle::assembleGradient(escript Line 1080  void Rectangle::assembleGradient(escript
1080  void Rectangle::assembleIntegrate(vector<double>& integrals, escript::Data& arg) const  void Rectangle::assembleIntegrate(vector<double>& integrals, escript::Data& arg) const
1081  {  {
1082      const dim_t numComp = arg.getDataPointSize();      const dim_t numComp = arg.getDataPointSize();
1083      const double h0 = m_l0/m_gNE0;      const index_t left = (m_offset[0]==0 ? 0 : 1);
1084      const double h1 = m_l1/m_gNE1;      const index_t bottom = (m_offset[1]==0 ? 0 : 1);
1085      const index_t left = (m_offset0==0 ? 0 : 1);      const int fs=arg.getFunctionSpace().getTypeCode();
1086      const index_t bottom = (m_offset1==0 ? 0 : 1);      if (fs == Elements && arg.actsExpanded()) {
     if (arg.getFunctionSpace().getTypeCode() == Elements) {  
         const double w = h0*h1/4.;  
1087  #pragma omp parallel  #pragma omp parallel
1088          {          {
1089              vector<double> int_local(numComp, 0);              vector<double> int_local(numComp, 0);
1090                const double w = m_dx[0]*m_dx[1]/4.;
1091  #pragma omp for nowait  #pragma omp for nowait
1092              for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {              for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1093                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1094                      const double* f = arg.getSampleDataRO(INDEX2(k0, k1, m_NE0));                      const double* f = arg.getSampleDataRO(INDEX2(k0, k1, m_NE[0]));
1095                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1096                          const double f0 = f[INDEX2(i,0,numComp)];                          const double f0 = f[INDEX2(i,0,numComp)];
1097                          const double f1 = f[INDEX2(i,1,numComp)];                          const double f1 = f[INDEX2(i,1,numComp)];
1098                          const double f2 = f[INDEX2(i,2,numComp)];                          const double f2 = f[INDEX2(i,2,numComp)];
1099                          const double f3 = f[INDEX2(i,3,numComp)];                          const double f3 = f[INDEX2(i,3,numComp)];
1100                          int_local[i]+=(f0+f1+f2+f3)*w;                          int_local[i]+=(f0+f1+f2+f3)*w;
1101                      }  /* end of component loop i */                      }  // end of component loop i
1102                  } /* end of k0 loop */                  } // end of k0 loop
1103              } /* end of k1 loop */              } // end of k1 loop
   
1104  #pragma omp critical  #pragma omp critical
1105              for (index_t i=0; i<numComp; i++)              for (index_t i=0; i<numComp; i++)
1106                  integrals[i]+=int_local[i];                  integrals[i]+=int_local[i];
1107          } // end of parallel section          } // end of parallel section
1108      } else if (arg.getFunctionSpace().getTypeCode() == ReducedElements) {  
1109          const double w = h0*h1;      } else if (fs==ReducedElements || (fs==Elements && !arg.actsExpanded())) {
1110            const double w = m_dx[0]*m_dx[1];
1111  #pragma omp parallel  #pragma omp parallel
1112          {          {
1113              vector<double> int_local(numComp, 0);              vector<double> int_local(numComp, 0);
1114  #pragma omp for nowait  #pragma omp for nowait
1115              for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {              for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1116                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1117                      const double* f = arg.getSampleDataRO(INDEX2(k0, k1, m_NE0));                      const double* f = arg.getSampleDataRO(INDEX2(k0, k1, m_NE[0]));
1118                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1119                          int_local[i]+=f[i]*w;                          int_local[i]+=f[i]*w;
1120                      }  /* end of component loop i */                      }
1121                  } /* end of k0 loop */                  }
1122              } /* end of k1 loop */              }
   
1123  #pragma omp critical  #pragma omp critical
1124              for (index_t i=0; i<numComp; i++)              for (index_t i=0; i<numComp; i++)
1125                  integrals[i]+=int_local[i];                  integrals[i]+=int_local[i];
1126          } // end of parallel section          } // end of parallel section
1127      } else if (arg.getFunctionSpace().getTypeCode() == FaceElements) {  
1128          const double w0 = h0/2.;      } else if (fs == FaceElements && arg.actsExpanded()) {
         const double w1 = h1/2.;  
1129  #pragma omp parallel  #pragma omp parallel
1130          {          {
1131              vector<double> int_local(numComp, 0);              vector<double> int_local(numComp, 0);
1132                const double w0 = m_dx[0]/2.;
1133                const double w1 = m_dx[1]/2.;
1134              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
1135  #pragma omp for nowait  #pragma omp for nowait
1136                  for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {                  for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1137                      const double* f = arg.getSampleDataRO(m_faceOffset[0]+k1);                      const double* f = arg.getSampleDataRO(m_faceOffset[0]+k1);
1138                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1139                          const double f0 = f[INDEX2(i,0,numComp)];                          const double f0 = f[INDEX2(i,0,numComp)];
1140                          const double f1 = f[INDEX2(i,1,numComp)];                          const double f1 = f[INDEX2(i,1,numComp)];
1141                          int_local[i]+=(f0+f1)*w1;                          int_local[i]+=(f0+f1)*w1;
1142                      }  /* end of component loop i */                      }  // end of component loop i
1143                  } /* end of k1 loop */                  } // end of k1 loop
1144              }              }
1145    
1146              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
1147  #pragma omp for nowait  #pragma omp for nowait
1148                  for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {                  for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1149                      const double* f = arg.getSampleDataRO(m_faceOffset[1]+k1);                      const double* f = arg.getSampleDataRO(m_faceOffset[1]+k1);
1150                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1151                          const double f0 = f[INDEX2(i,0,numComp)];                          const double f0 = f[INDEX2(i,0,numComp)];
1152                          const double f1 = f[INDEX2(i,1,numComp)];                          const double f1 = f[INDEX2(i,1,numComp)];
1153                          int_local[i]+=(f0+f1)*w1;                          int_local[i]+=(f0+f1)*w1;
1154                      }  /* end of component loop i */                      }  // end of component loop i
1155                  } /* end of k1 loop */                  } // end of k1 loop
1156              }              }
1157    
1158              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
1159  #pragma omp for nowait  #pragma omp for nowait
1160                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1161                      const double* f = arg.getSampleDataRO(m_faceOffset[2]+k0);                      const double* f = arg.getSampleDataRO(m_faceOffset[2]+k0);
1162                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1163                          const double f0 = f[INDEX2(i,0,numComp)];                          const double f0 = f[INDEX2(i,0,numComp)];
1164                          const double f1 = f[INDEX2(i,1,numComp)];                          const double f1 = f[INDEX2(i,1,numComp)];
1165                          int_local[i]+=(f0+f1)*w0;                          int_local[i]+=(f0+f1)*w0;
1166                      }  /* end of component loop i */                      }  // end of component loop i
1167                  } /* end of k0 loop */                  } // end of k0 loop
1168              }              }
1169    
1170              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
1171  #pragma omp for nowait  #pragma omp for nowait
1172                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1173                      const double* f = arg.getSampleDataRO(m_faceOffset[3]+k0);                      const double* f = arg.getSampleDataRO(m_faceOffset[3]+k0);
1174                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1175                          const double f0 = f[INDEX2(i,0,numComp)];                          const double f0 = f[INDEX2(i,0,numComp)];
1176                          const double f1 = f[INDEX2(i,1,numComp)];                          const double f1 = f[INDEX2(i,1,numComp)];
1177                          int_local[i]+=(f0+f1)*w0;                          int_local[i]+=(f0+f1)*w0;
1178                      }  /* end of component loop i */                      }  // end of component loop i
1179                  } /* end of k0 loop */                  } // end of k0 loop
1180              }              }
   
1181  #pragma omp critical  #pragma omp critical
1182              for (index_t i=0; i<numComp; i++)              for (index_t i=0; i<numComp; i++)
1183                  integrals[i]+=int_local[i];                  integrals[i]+=int_local[i];
1184          } // end of parallel section          } // end of parallel section
1185      } else if (arg.getFunctionSpace().getTypeCode() == ReducedFaceElements) {  
1186        } else if (fs==ReducedFaceElements || (fs==FaceElements && !arg.actsExpanded())) {
1187  #pragma omp parallel  #pragma omp parallel
1188          {          {
1189              vector<double> int_local(numComp, 0);              vector<double> int_local(numComp, 0);
1190              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
1191  #pragma omp for nowait  #pragma omp for nowait
1192                  for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {                  for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1193                      const double* f = arg.getSampleDataRO(m_faceOffset[0]+k1);                      const double* f = arg.getSampleDataRO(m_faceOffset[0]+k1);
1194                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1195                          int_local[i]+=f[i]*h1;                          int_local[i]+=f[i]*m_dx[1];
1196                      }  /* end of component loop i */                      }
1197                  } /* end of k1 loop */                  }
1198              }              }
1199    
1200              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
1201  #pragma omp for nowait  #pragma omp for nowait
1202                  for (index_t k1 = bottom; k1 < bottom+m_ownNE1; ++k1) {                  for (index_t k1 = bottom; k1 < bottom+m_ownNE[1]; ++k1) {
1203                      const double* f = arg.getSampleDataRO(m_faceOffset[1]+k1);                      const double* f = arg.getSampleDataRO(m_faceOffset[1]+k1);
1204                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1205                          int_local[i]+=f[i]*h1;                          int_local[i]+=f[i]*m_dx[1];
1206                      }  /* end of component loop i */                      }
1207                  } /* end of k1 loop */                  }
1208              }              }
1209    
1210              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
1211  #pragma omp for nowait  #pragma omp for nowait
1212                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1213                      const double* f = arg.getSampleDataRO(m_faceOffset[2]+k0);                      const double* f = arg.getSampleDataRO(m_faceOffset[2]+k0);
1214                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1215                          int_local[i]+=f[i]*h0;                          int_local[i]+=f[i]*m_dx[0];
1216                      }  /* end of component loop i */                      }
1217                  } /* end of k0 loop */                  }
1218              }              }
1219    
1220              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
1221  #pragma omp for nowait  #pragma omp for nowait
1222                  for (index_t k0 = left; k0 < left+m_ownNE0; ++k0) {                  for (index_t k0 = left; k0 < left+m_ownNE[0]; ++k0) {
1223                      const double* f = arg.getSampleDataRO(m_faceOffset[3]+k0);                      const double* f = arg.getSampleDataRO(m_faceOffset[3]+k0);
1224                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1225                          int_local[i]+=f[i]*h0;                          int_local[i]+=f[i]*m_dx[0];
1226                      }  /* end of component loop i */                      }
1227                  } /* end of k0 loop */                  }
1228              }              }
1229    
1230  #pragma omp critical  #pragma omp critical
1231              for (index_t i=0; i<numComp; i++)              for (index_t i=0; i<numComp; i++)
1232                  integrals[i]+=int_local[i];                  integrals[i]+=int_local[i];
1233          } // end of parallel section          } // end of parallel section
1234      }      } // function space selector
1235  }  }
1236    
1237  //protected  //protected
1238  dim_t Rectangle::insertNeighbourNodes(IndexVector& index, index_t node) const  dim_t Rectangle::insertNeighbourNodes(IndexVector& index, index_t node) const
1239  {  {
1240      const dim_t nDOF0 = (m_gNE0+1)/m_NX;      const dim_t nDOF0 = (m_gNE[0]+1)/m_NX[0];
1241      const dim_t nDOF1 = (m_gNE1+1)/m_NY;      const dim_t nDOF1 = (m_gNE[1]+1)/m_NX[1];
1242      const int x=node%nDOF0;      const int x=node%nDOF0;
1243      const int y=node/nDOF0;      const int y=node/nDOF0;
1244      dim_t num=0;      dim_t num=0;
# Line 994  void Rectangle::nodesToDOF(escript::Data Line 1268  void Rectangle::nodesToDOF(escript::Data
1268      const dim_t numComp = in.getDataPointSize();      const dim_t numComp = in.getDataPointSize();
1269      out.requireWrite();      out.requireWrite();
1270    
1271      const index_t left = (m_offset0==0 ? 0 : 1);      const index_t left = (m_offset[0]==0 ? 0 : 1);
1272      const index_t bottom = (m_offset1==0 ? 0 : 1);      const index_t bottom = (m_offset[1]==0 ? 0 : 1);
1273      const dim_t nDOF0 = (m_gNE0+1)/m_NX;      const dim_t nDOF0 = (m_gNE[0]+1)/m_NX[0];
1274      const dim_t nDOF1 = (m_gNE1+1)/m_NY;      const dim_t nDOF1 = (m_gNE[1]+1)/m_NX[1];
1275  #pragma omp parallel for  #pragma omp parallel for
1276      for (index_t i=0; i<nDOF1; i++) {      for (index_t i=0; i<nDOF1; i++) {
1277          for (index_t j=0; j<nDOF0; j++) {          for (index_t j=0; j<nDOF0; j++) {
1278              const index_t n=j+left+(i+bottom)*m_N0;              const index_t n=j+left+(i+bottom)*m_NN[0];
1279              const double* src=in.getSampleDataRO(n);              const double* src=in.getSampleDataRO(n);
1280              copy(src, src+numComp, out.getSampleDataRW(j+i*nDOF0));              copy(src, src+numComp, out.getSampleDataRW(j+i*nDOF0));
1281          }          }
# Line 1027  void Rectangle::dofToNodes(escript::Data Line 1301  void Rectangle::dofToNodes(escript::Data
1301                  : &buffer[(m_dofMap[i]-numDOF)*numComp]);                  : &buffer[(m_dofMap[i]-numDOF)*numComp]);
1302          copy(src, src+numComp, out.getSampleDataRW(i));          copy(src, src+numComp, out.getSampleDataRW(i));
1303      }      }
1304        Paso_Coupler_free(coupler);
1305  }  }
1306    
1307  //private  //private
1308  void Rectangle::populateSampleIds()  void Rectangle::populateSampleIds()
1309  {  {
1310      // identifiers are ordered from left to right, bottom to top globablly.      // degrees of freedom are numbered from left to right, bottom to top in
1311        // each rank, continuing on the next rank (ranks also go left-right,
1312        // bottom-top).
1313        // This means rank 0 has id 0...n0-1, rank 1 has id n0...n1-1 etc. which
1314        // helps when writing out data rank after rank.
1315    
1316      // build node distribution vector first.      // build node distribution vector first.
1317      // rank i owns m_nodeDistribution[i+1]-nodeDistribution[i] nodes      // rank i owns m_nodeDistribution[i+1]-nodeDistribution[i] nodes which is
1318        // constant for all ranks in this implementation
1319      m_nodeDistribution.assign(m_mpiInfo->size+1, 0);      m_nodeDistribution.assign(m_mpiInfo->size+1, 0);
1320      const dim_t numDOF=getNumDOF();      const dim_t numDOF=getNumDOF();
1321      for (dim_t k=1; k<m_mpiInfo->size; k++) {      for (dim_t k=1; k<m_mpiInfo->size; k++) {
# Line 1045  void Rectangle::populateSampleIds() Line 1325  void Rectangle::populateSampleIds()
1325      m_nodeId.resize(getNumNodes());      m_nodeId.resize(getNumNodes());
1326      m_dofId.resize(numDOF);      m_dofId.resize(numDOF);
1327      m_elementId.resize(getNumElements());      m_elementId.resize(getNumElements());
1328    
1329        // populate face element counts
1330        //left
1331        if (m_offset[0]==0)
1332            m_faceCount[0]=m_NE[1];
1333        else
1334            m_faceCount[0]=0;
1335        //right
1336        if (m_mpiInfo->rank%m_NX[0]==m_NX[0]-1)
1337            m_faceCount[1]=m_NE[1];
1338        else
1339            m_faceCount[1]=0;
1340        //bottom
1341        if (m_offset[1]==0)
1342            m_faceCount[2]=m_NE[0];
1343        else
1344            m_faceCount[2]=0;
1345        //top
1346        if (m_mpiInfo->rank/m_NX[0]==m_NX[1]-1)
1347            m_faceCount[3]=m_NE[0];
1348        else
1349            m_faceCount[3]=0;
1350    
1351      m_faceId.resize(getNumFaceElements());      m_faceId.resize(getNumFaceElements());
1352    
1353        const index_t left = (m_offset[0]==0 ? 0 : 1);
1354        const index_t bottom = (m_offset[1]==0 ? 0 : 1);
1355        const dim_t nDOF0 = (m_gNE[0]+1)/m_NX[0];
1356        const dim_t nDOF1 = (m_gNE[1]+1)/m_NX[1];
1357    
1358    #define globalNodeId(x,y) \
1359        ((m_offset[0]+x)/nDOF0)*nDOF0*nDOF1+(m_offset[0]+x)%nDOF0 \
1360        + ((m_offset[1]+y)/nDOF1)*nDOF0*nDOF1*m_NX[0]+((m_offset[1]+y)%nDOF1)*nDOF0
1361    
1362        // set corner id's outside the parallel region
1363        m_nodeId[0] = globalNodeId(0, 0);
1364        m_nodeId[m_NN[0]-1] = globalNodeId(m_NN[0]-1, 0);
1365        m_nodeId[m_NN[0]*(m_NN[1]-1)] = globalNodeId(0, m_NN[1]-1);
1366        m_nodeId[m_NN[0]*m_NN[1]-1] = globalNodeId(m_NN[0]-1,m_NN[1]-1);
1367    #undef globalNodeId
1368    
1369  #pragma omp parallel  #pragma omp parallel
1370      {      {
1371          // nodes          // populate degrees of freedom and own nodes (identical id)
1372  #pragma omp for nowait  #pragma omp for nowait
1373          for (dim_t i1=0; i1<m_N1; i1++) {          for (dim_t i=0; i<nDOF1; i++) {
1374              for (dim_t i0=0; i0<m_N0; i0++) {              for (dim_t j=0; j<nDOF0; j++) {
1375                  m_nodeId[i0+i1*m_N0] = (m_offset1+i1)*(m_gNE0+1)+m_offset0+i0;                  const index_t nodeIdx=j+left+(i+bottom)*m_NN[0];
1376                    const index_t dofIdx=j+i*nDOF0;
1377                    m_dofId[dofIdx] = m_nodeId[nodeIdx]
1378                        = m_nodeDistribution[m_mpiInfo->rank]+dofIdx;
1379              }              }
1380          }          }
1381    
1382          // degrees of freedom          // populate the rest of the nodes (shared with other ranks)
1383            if (m_faceCount[0]==0) { // left column
1384    #pragma omp for nowait
1385                for (dim_t i=0; i<nDOF1; i++) {
1386                    const index_t nodeIdx=(i+bottom)*m_NN[0];
1387                    const index_t dofId=(i+1)*nDOF0-1;
1388                    m_nodeId[nodeIdx]
1389                        = m_nodeDistribution[m_mpiInfo->rank-1]+dofId;
1390                }
1391            }
1392            if (m_faceCount[1]==0) { // right column
1393  #pragma omp for nowait  #pragma omp for nowait
1394          for (dim_t k=0; k<numDOF; k++)              for (dim_t i=0; i<nDOF1; i++) {
1395              m_dofId[k] = m_nodeDistribution[m_mpiInfo->rank]+k;                  const index_t nodeIdx=(i+bottom+1)*m_NN[0]-1;
1396                    const index_t dofId=i*nDOF0;
1397                    m_nodeId[nodeIdx]
1398                        = m_nodeDistribution[m_mpiInfo->rank+1]+dofId;
1399                }
1400            }
1401            if (m_faceCount[2]==0) { // bottom row
1402    #pragma omp for nowait
1403                for (dim_t i=0; i<nDOF0; i++) {
1404                    const index_t nodeIdx=i+left;
1405                    const index_t dofId=nDOF0*(nDOF1-1)+i;
1406                    m_nodeId[nodeIdx]
1407                        = m_nodeDistribution[m_mpiInfo->rank-m_NX[0]]+dofId;
1408                }
1409            }
1410            if (m_faceCount[3]==0) { // top row
1411    #pragma omp for nowait
1412                for (dim_t i=0; i<nDOF0; i++) {
1413                    const index_t nodeIdx=m_NN[0]*(m_NN[1]-1)+i+left;
1414                    const index_t dofId=i;
1415                    m_nodeId[nodeIdx]
1416                        = m_nodeDistribution[m_mpiInfo->rank+m_NX[0]]+dofId;
1417                }
1418            }
1419    
1420          // elements          // populate element id's
1421  #pragma omp for nowait  #pragma omp for nowait
1422          for (dim_t i1=0; i1<m_NE1; i1++) {          for (dim_t i1=0; i1<m_NE[1]; i1++) {
1423              for (dim_t i0=0; i0<m_NE0; i0++) {              for (dim_t i0=0; i0<m_NE[0]; i0++) {
1424                  m_elementId[i0+i1*m_NE0]=(m_offset1+i1)*m_gNE0+m_offset0+i0;                  m_elementId[i0+i1*m_NE[0]]=(m_offset[1]+i1)*m_gNE[0]+m_offset[0]+i0;
1425              }              }
1426          }          }
1427    
# Line 1083  void Rectangle::populateSampleIds() Line 1438  void Rectangle::populateSampleIds()
1438      updateTagsInUse(Elements);      updateTagsInUse(Elements);
1439    
1440      // generate face offset vector and set face tags      // generate face offset vector and set face tags
     const IndexVector facesPerEdge = getNumFacesPerBoundary();  
1441      const index_t LEFT=1, RIGHT=2, BOTTOM=10, TOP=20;      const index_t LEFT=1, RIGHT=2, BOTTOM=10, TOP=20;
1442      const index_t faceTag[] = { LEFT, RIGHT, BOTTOM, TOP };      const index_t faceTag[] = { LEFT, RIGHT, BOTTOM, TOP };
1443      m_faceOffset.assign(facesPerEdge.size(), -1);      m_faceOffset.assign(4, -1);
1444      m_faceTags.clear();      m_faceTags.clear();
1445      index_t offset=0;      index_t offset=0;
1446      for (size_t i=0; i<facesPerEdge.size(); i++) {      for (size_t i=0; i<4; i++) {
1447          if (facesPerEdge[i]>0) {          if (m_faceCount[i]>0) {
1448              m_faceOffset[i]=offset;              m_faceOffset[i]=offset;
1449              offset+=facesPerEdge[i];              offset+=m_faceCount[i];
1450              m_faceTags.insert(m_faceTags.end(), facesPerEdge[i], faceTag[i]);              m_faceTags.insert(m_faceTags.end(), m_faceCount[i], faceTag[i]);
1451          }          }
1452      }      }
1453      setTagMap("left", LEFT);      setTagMap("left", LEFT);
# Line 1106  void Rectangle::populateSampleIds() Line 1460  void Rectangle::populateSampleIds()
1460  //private  //private
1461  void Rectangle::createPattern()  void Rectangle::createPattern()
1462  {  {
1463      const dim_t nDOF0 = (m_gNE0+1)/m_NX;      const dim_t nDOF0 = (m_gNE[0]+1)/m_NX[0];
1464      const dim_t nDOF1 = (m_gNE1+1)/m_NY;      const dim_t nDOF1 = (m_gNE[1]+1)/m_NX[1];
1465      const index_t left = (m_offset0==0 ? 0 : 1);      const index_t left = (m_offset[0]==0 ? 0 : 1);
1466      const index_t bottom = (m_offset1==0 ? 0 : 1);      const index_t bottom = (m_offset[1]==0 ? 0 : 1);
1467    
1468      // populate node->DOF mapping with own degrees of freedom.      // populate node->DOF mapping with own degrees of freedom.
1469      // The rest is assigned in the loop further down      // The rest is assigned in the loop further down
# Line 1117  void Rectangle::createPattern() Line 1471  void Rectangle::createPattern()
1471  #pragma omp parallel for  #pragma omp parallel for
1472      for (index_t i=bottom; i<bottom+nDOF1; i++) {      for (index_t i=bottom; i<bottom+nDOF1; i++) {
1473          for (index_t j=left; j<left+nDOF0; j++) {          for (index_t j=left; j<left+nDOF0; j++) {
1474              m_dofMap[i*m_N0+j]=(i-bottom)*nDOF0+j-left;              m_dofMap[i*m_NN[0]+j]=(i-bottom)*nDOF0+j-left;
1475          }          }
1476      }      }
1477    
# Line 1130  void Rectangle::createPattern() Line 1484  void Rectangle::createPattern()
1484      IndexVector offsetInShared(1,0);      IndexVector offsetInShared(1,0);
1485      IndexVector sendShared, recvShared;      IndexVector sendShared, recvShared;
1486      int numShared=0;      int numShared=0;
1487      const int x=m_mpiInfo->rank%m_NX;      const int x=m_mpiInfo->rank%m_NX[0];
1488      const int y=m_mpiInfo->rank/m_NX;      const int y=m_mpiInfo->rank/m_NX[0];
1489      for (int i1=-1; i1<2; i1++) {      for (int i1=-1; i1<2; i1++) {
1490          for (int i0=-1; i0<2; i0++) {          for (int i0=-1; i0<2; i0++) {
1491              // skip this rank              // skip this rank
# Line 1140  void Rectangle::createPattern() Line 1494  void Rectangle::createPattern()
1494              // location of neighbour rank              // location of neighbour rank
1495              const int nx=x+i0;              const int nx=x+i0;
1496              const int ny=y+i1;              const int ny=y+i1;
1497              if (nx>=0 && ny>=0 && nx<m_NX && ny<m_NY) {              if (nx>=0 && ny>=0 && nx<m_NX[0] && ny<m_NX[1]) {
1498                  neighbour.push_back(ny*m_NX+nx);                  neighbour.push_back(ny*m_NX[0]+nx);
1499                  if (i0==0) {                  if (i0==0) {
1500                      // sharing top or bottom edge                      // sharing top or bottom edge
1501                      const int firstDOF=(i1==-1 ? 0 : numDOF-nDOF0);                      const int firstDOF=(i1==-1 ? 0 : numDOF-nDOF0);
1502                      const int firstNode=(i1==-1 ? left : m_N0*(m_N1-1)+left);                      const int firstNode=(i1==-1 ? left : m_NN[0]*(m_NN[1]-1)+left);
1503                      offsetInShared.push_back(offsetInShared.back()+nDOF0);                      offsetInShared.push_back(offsetInShared.back()+nDOF0);
1504                      for (dim_t i=0; i<nDOF0; i++, numShared++) {                      for (dim_t i=0; i<nDOF0; i++, numShared++) {
1505                          sendShared.push_back(firstDOF+i);                          sendShared.push_back(firstDOF+i);
# Line 1160  void Rectangle::createPattern() Line 1514  void Rectangle::createPattern()
1514                  } else if (i1==0) {                  } else if (i1==0) {
1515                      // sharing left or right edge                      // sharing left or right edge
1516                      const int firstDOF=(i0==-1 ? 0 : nDOF0-1);                      const int firstDOF=(i0==-1 ? 0 : nDOF0-1);
1517                      const int firstNode=(i0==-1 ? bottom*m_N0 : (bottom+1)*m_N0-1);                      const int firstNode=(i0==-1 ? bottom*m_NN[0] : (bottom+1)*m_NN[0]-1);
1518                      offsetInShared.push_back(offsetInShared.back()+nDOF1);                      offsetInShared.push_back(offsetInShared.back()+nDOF1);
1519                      for (dim_t i=0; i<nDOF1; i++, numShared++) {                      for (dim_t i=0; i<nDOF1; i++, numShared++) {
1520                          sendShared.push_back(firstDOF+i*nDOF0);                          sendShared.push_back(firstDOF+i*nDOF0);
# Line 1170  void Rectangle::createPattern() Line 1524  void Rectangle::createPattern()
1524                          colIndices[firstDOF+i*nDOF0].push_back(numShared);                          colIndices[firstDOF+i*nDOF0].push_back(numShared);
1525                          if (i<nDOF1-1)                          if (i<nDOF1-1)
1526                              colIndices[firstDOF+(i+1)*nDOF0].push_back(numShared);                              colIndices[firstDOF+(i+1)*nDOF0].push_back(numShared);
1527                          m_dofMap[firstNode+i*m_N0]=numDOF+numShared;                          m_dofMap[firstNode+i*m_NN[0]]=numDOF+numShared;
1528                      }                      }
1529                  } else {                  } else {
1530                      // sharing a node                      // sharing a node
1531                      const int dof=(i0+1)/2*(nDOF0-1)+(i1+1)/2*(numDOF-nDOF0);                      const int dof=(i0+1)/2*(nDOF0-1)+(i1+1)/2*(numDOF-nDOF0);
1532                      const int node=(i0+1)/2*(m_N0-1)+(i1+1)/2*m_N0*(m_N1-1);                      const int node=(i0+1)/2*(m_NN[0]-1)+(i1+1)/2*m_NN[0]*(m_NN[1]-1);
1533                      offsetInShared.push_back(offsetInShared.back()+1);                      offsetInShared.push_back(offsetInShared.back()+1);
1534                      sendShared.push_back(dof);                      sendShared.push_back(dof);
1535                      recvShared.push_back(numDOF+numShared);                      recvShared.push_back(numDOF+numShared);
# Line 1285  void Rectangle::addToMatrixAndRHS(Paso_S Line 1639  void Rectangle::addToMatrixAndRHS(Paso_S
1639      IndexVector rowIndex;      IndexVector rowIndex;
1640      rowIndex.push_back(m_dofMap[firstNode]);      rowIndex.push_back(m_dofMap[firstNode]);
1641      rowIndex.push_back(m_dofMap[firstNode+1]);      rowIndex.push_back(m_dofMap[firstNode+1]);
1642      rowIndex.push_back(m_dofMap[firstNode+m_N0]);      rowIndex.push_back(m_dofMap[firstNode+m_NN[0]]);
1643      rowIndex.push_back(m_dofMap[firstNode+m_N0+1]);      rowIndex.push_back(m_dofMap[firstNode+m_NN[0]+1]);
1644      if (addF) {      if (addF) {
1645          double *F_p=F.getSampleDataRW(0);          double *F_p=F.getSampleDataRW(0);
1646          for (index_t i=0; i<rowIndex.size(); i++) {          for (index_t i=0; i<rowIndex.size(); i++) {
# Line 1309  void Rectangle::interpolateNodesOnElemen Line 1663  void Rectangle::interpolateNodesOnElemen
1663      const dim_t numComp = in.getDataPointSize();      const dim_t numComp = in.getDataPointSize();
1664      if (reduced) {      if (reduced) {
1665          out.requireWrite();          out.requireWrite();
1666          const double c0 = .25;          const double c0 = 0.25;
1667  #pragma omp parallel for  #pragma omp parallel
1668          for (index_t k1=0; k1 < m_NE1; ++k1) {          {
1669              for (index_t k0=0; k0 < m_NE0; ++k0) {              vector<double> f_00(numComp);
1670                  const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,k1+1, m_N0));              vector<double> f_01(numComp);
1671                  const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,k1, m_N0));              vector<double> f_10(numComp);
1672                  const double* f_00 = in.getSampleDataRO(INDEX2(k0,k1, m_N0));              vector<double> f_11(numComp);
1673                  const double* f_01 = in.getSampleDataRO(INDEX2(k0,k1+1, m_N0));  #pragma omp for
1674                  double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE0));              for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1675                  for (index_t i=0; i < numComp; ++i) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1676                      o[INDEX2(i,numComp,0)] = c0*(f_00[i] + f_01[i] + f_10[i] + f_11[i]);                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,k1, m_NN[0])), numComp*sizeof(double));
1677                  } /* end of component loop i */                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,k1+1, m_NN[0])), numComp*sizeof(double));
1678              } /* end of k0 loop */                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,k1, m_NN[0])), numComp*sizeof(double));
1679          } /* end of k1 loop */                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,k1+1, m_NN[0])), numComp*sizeof(double));
1680                        double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE[0]));
1681                        for (index_t i=0; i < numComp; ++i) {
1682                            o[INDEX2(i,numComp,0)] = c0*(f_00[i] + f_01[i] + f_10[i] + f_11[i]);
1683                        } /* end of component loop i */
1684                    } /* end of k0 loop */
1685                } /* end of k1 loop */
1686            } /* end of parallel section */
1687      } else {      } else {
1688          out.requireWrite();          out.requireWrite();
1689          const double c0 = .16666666666666666667;          const double c0 = 0.16666666666666666667;
1690          const double c1 = .044658198738520451079;          const double c1 = 0.044658198738520451079;
1691          const double c2 = .62200846792814621559;          const double c2 = 0.62200846792814621559;
1692  #pragma omp parallel for  #pragma omp parallel
1693          for (index_t k1=0; k1 < m_NE1; ++k1) {          {
1694              for (index_t k0=0; k0 < m_NE0; ++k0) {              vector<double> f_00(numComp);
1695                  const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,k1, m_N0));              vector<double> f_01(numComp);
1696                  const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,k1+1, m_N0));              vector<double> f_10(numComp);
1697                  const double* f_01 = in.getSampleDataRO(INDEX2(k0,k1+1, m_N0));              vector<double> f_11(numComp);
1698                  const double* f_00 = in.getSampleDataRO(INDEX2(k0,k1, m_N0));  #pragma omp for
1699                  double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE0));              for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1700                  for (index_t i=0; i < numComp; ++i) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1701                      o[INDEX2(i,numComp,0)] = f_00[i]*c2 + f_11[i]*c1 + c0*(f_01[i] + f_10[i]);                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,k1, m_NN[0])), numComp*sizeof(double));
1702                      o[INDEX2(i,numComp,1)] = f_01[i]*c1 + f_10[i]*c2 + c0*(f_00[i] + f_11[i]);                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,k1+1, m_NN[0])), numComp*sizeof(double));
1703                      o[INDEX2(i,numComp,2)] = f_01[i]*c2 + f_10[i]*c1 + c0*(f_00[i] + f_11[i]);                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,k1, m_NN[0])), numComp*sizeof(double));
1704                      o[INDEX2(i,numComp,3)] = f_00[i]*c1 + f_11[i]*c2 + c0*(f_01[i] + f_10[i]);                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,k1+1, m_NN[0])), numComp*sizeof(double));
1705                  } /* end of component loop i */                      double* o = out.getSampleDataRW(INDEX2(k0,k1,m_NE[0]));
1706              } /* end of k0 loop */                      for (index_t i=0; i < numComp; ++i) {
1707          } /* end of k1 loop */                          o[INDEX2(i,numComp,0)] = c0*(f_01[i] + f_10[i]) + c1*f_11[i] + c2*f_00[i];
1708                            o[INDEX2(i,numComp,1)] = c0*(f_00[i] + f_11[i]) + c1*f_01[i] + c2*f_10[i];
1709                            o[INDEX2(i,numComp,2)] = c0*(f_00[i] + f_11[i]) + c1*f_10[i] + c2*f_01[i];
1710                            o[INDEX2(i,numComp,3)] = c0*(f_01[i] + f_10[i]) + c1*f_00[i] + c2*f_11[i];
1711                        } /* end of component loop i */
1712                    } /* end of k0 loop */
1713                } /* end of k1 loop */
1714            } /* end of parallel section */
1715      }      }
1716  }  }
1717    
# Line 1354  void Rectangle::interpolateNodesOnFaces( Line 1722  void Rectangle::interpolateNodesOnFaces(
1722      const dim_t numComp = in.getDataPointSize();      const dim_t numComp = in.getDataPointSize();
1723      if (reduced) {      if (reduced) {
1724          out.requireWrite();          out.requireWrite();
         const double c0 = .5;  
1725  #pragma omp parallel  #pragma omp parallel
1726          {          {
1727                vector<double> f_00(numComp);
1728                vector<double> f_01(numComp);
1729                vector<double> f_10(numComp);
1730                vector<double> f_11(numComp);
1731              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
1732  #pragma omp for nowait  #pragma omp for nowait
1733                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1734                      const double* f_00 = in.getSampleDataRO(INDEX2(0,k1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(0,k1, m_NN[0])), numComp*sizeof(double));
1735                      const double* f_01 = in.getSampleDataRO(INDEX2(0,k1+1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(0,k1+1, m_NN[0])), numComp*sizeof(double));
1736                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
1737                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1738                          o[INDEX2(i,numComp,0)] = c0*(f_00[i] + f_01[i]);                          o[INDEX2(i,numComp,0)] = (f_00[i] + f_01[i])/2;
1739                      } /* end of component loop i */                      } /* end of component loop i */
1740                  } /* end of k1 loop */                  } /* end of k1 loop */
1741              } /* end of face 0 */              } /* end of face 0 */
1742              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
1743  #pragma omp for nowait  #pragma omp for nowait
1744                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1745                      const double* f_10 = in.getSampleDataRO(INDEX2(m_N0-1,k1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1, m_NN[0])), numComp*sizeof(double));
1746                      const double* f_11 = in.getSampleDataRO(INDEX2(m_N0-1,k1+1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1+1, m_NN[0])), numComp*sizeof(double));
1747                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
1748                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1749                          o[INDEX2(i,numComp,0)] = c0*(f_10[i] + f_11[i]);                          o[INDEX2(i,numComp,0)] = (f_10[i] + f_11[i])/2;
1750                      } /* end of component loop i */                      } /* end of component loop i */
1751                  } /* end of k1 loop */                  } /* end of k1 loop */
1752              } /* end of face 1 */              } /* end of face 1 */
1753              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
1754  #pragma omp for nowait  #pragma omp for nowait
1755                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1756                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,0, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,0, m_NN[0])), numComp*sizeof(double));
1757                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,0, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,0, m_NN[0])), numComp*sizeof(double));
1758                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
1759                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1760                          o[INDEX2(i,numComp,0)] = c0*(f_00[i] + f_10[i]);                          o[INDEX2(i,numComp,0)] = (f_00[i] + f_10[i])/2;
1761                      } /* end of component loop i */                      } /* end of component loop i */
1762                  } /* end of k0 loop */                  } /* end of k0 loop */
1763              } /* end of face 2 */              } /* end of face 2 */
1764              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
1765  #pragma omp for nowait  #pragma omp for nowait
1766                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1767                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,m_N1-1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1768                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,m_N1-1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1769                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
1770                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1771                          o[INDEX2(i,numComp,0)] = c0*(f_01[i] + f_11[i]);                          o[INDEX2(i,numComp,0)] = (f_01[i] + f_11[i])/2;
1772                      } /* end of component loop i */                      } /* end of component loop i */
1773                  } /* end of k0 loop */                  } /* end of k0 loop */
1774              } /* end of face 3 */              } /* end of face 3 */
1775          } // end of parallel section          } /* end of parallel section */
1776      } else {      } else {
1777          out.requireWrite();          out.requireWrite();
1778          const double c0 = 0.21132486540518711775;          const double c0 = 0.21132486540518711775;
1779          const double c1 = 0.78867513459481288225;          const double c1 = 0.78867513459481288225;
1780  #pragma omp parallel  #pragma omp parallel
1781          {          {
1782                vector<double> f_00(numComp);
1783                vector<double> f_01(numComp);
1784                vector<double> f_10(numComp);
1785                vector<double> f_11(numComp);
1786              if (m_faceOffset[0] > -1) {              if (m_faceOffset[0] > -1) {
1787  #pragma omp for nowait  #pragma omp for nowait
1788                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1789                      const double* f_01 = in.getSampleDataRO(INDEX2(0,k1+1, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(0,k1, m_NN[0])), numComp*sizeof(double));
1790                      const double* f_00 = in.getSampleDataRO(INDEX2(0,k1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(0,k1+1, m_NN[0])), numComp*sizeof(double));
1791                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[0]+k1);
1792                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1793                          o[INDEX2(i,numComp,0)] = f_00[i]*c1 + f_01[i]*c0;                          o[INDEX2(i,numComp,0)] = c0*f_01[i] + c1*f_00[i];
1794                          o[INDEX2(i,numComp,1)] = f_00[i]*c0 + f_01[i]*c1;                          o[INDEX2(i,numComp,1)] = c0*f_00[i] + c1*f_01[i];
1795                      } /* end of component loop i */                      } /* end of component loop i */
1796                  } /* end of k1 loop */                  } /* end of k1 loop */
1797              } /* end of face 0 */              } /* end of face 0 */
1798              if (m_faceOffset[1] > -1) {              if (m_faceOffset[1] > -1) {
1799  #pragma omp for nowait  #pragma omp for nowait
1800                  for (index_t k1=0; k1 < m_NE1; ++k1) {                  for (index_t k1=0; k1 < m_NE[1]; ++k1) {
1801                      const double* f_10 = in.getSampleDataRO(INDEX2(m_N0-1,k1, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1, m_NN[0])), numComp*sizeof(double));
1802                      const double* f_11 = in.getSampleDataRO(INDEX2(m_N0-1,k1+1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(m_NN[0]-1,k1+1, m_NN[0])), numComp*sizeof(double));
1803                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);                      double* o = out.getSampleDataRW(m_faceOffset[1]+k1);
1804                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1805                          o[INDEX2(i,numComp,0)] = f_10[i]*c1 + f_11[i]*c0;                          o[INDEX2(i,numComp,0)] = c1*f_10[i] + c0*f_11[i];
1806                          o[INDEX2(i,numComp,1)] = f_10[i]*c0 + f_11[i]*c1;                          o[INDEX2(i,numComp,1)] = c1*f_11[i] + c0*f_10[i];
1807                      } /* end of component loop i */                      } /* end of component loop i */
1808                  } /* end of k1 loop */                  } /* end of k1 loop */
1809              } /* end of face 1 */              } /* end of face 1 */
1810              if (m_faceOffset[2] > -1) {              if (m_faceOffset[2] > -1) {
1811  #pragma omp for nowait  #pragma omp for nowait
1812                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1813                      const double* f_10 = in.getSampleDataRO(INDEX2(k0+1,0, m_N0));                      memcpy(&f_00[0], in.getSampleDataRO(INDEX2(k0,0, m_NN[0])), numComp*sizeof(double));
1814                      const double* f_00 = in.getSampleDataRO(INDEX2(k0,0, m_N0));                      memcpy(&f_10[0], in.getSampleDataRO(INDEX2(k0+1,0, m_NN[0])), numComp*sizeof(double));
1815                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[2]+k0);
1816                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1817                          o[INDEX2(i,numComp,0)] = f_00[i]*c1 + f_10[i]*c0;                          o[INDEX2(i,numComp,0)] = c0*f_10[i] + c1*f_00[i];
1818                          o[INDEX2(i,numComp,1)] = f_00[i]*c0 + f_10[i]*c1;                          o[INDEX2(i,numComp,1)] = c0*f_00[i] + c1*f_10[i];
1819                      } /* end of component loop i */                      } /* end of component loop i */
1820                  } /* end of k0 loop */                  } /* end of k0 loop */
1821              } /* end of face 2 */              } /* end of face 2 */
1822              if (m_faceOffset[3] > -1) {              if (m_faceOffset[3] > -1) {
1823  #pragma omp for nowait  #pragma omp for nowait
1824                  for (index_t k0=0; k0 < m_NE0; ++k0) {                  for (index_t k0=0; k0 < m_NE[0]; ++k0) {
1825                      const double* f_11 = in.getSampleDataRO(INDEX2(k0+1,m_N1-1, m_N0));                      memcpy(&f_01[0], in.getSampleDataRO(INDEX2(k0,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1826                      const double* f_01 = in.getSampleDataRO(INDEX2(k0,m_N1-1, m_N0));                      memcpy(&f_11[0], in.getSampleDataRO(INDEX2(k0+1,m_NN[1]-1, m_NN[0])), numComp*sizeof(double));
1827                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);                      double* o = out.getSampleDataRW(m_faceOffset[3]+k0);
1828                      for (index_t i=0; i < numComp; ++i) {                      for (index_t i=0; i < numComp; ++i) {
1829                          o[INDEX2(i,numComp,0)] = f_01[i]*c1 + f_11[i]*c0;                          o[INDEX2(i,numComp,0)] = c0*f_11[i] + c1*f_01[i];
1830                          o[INDEX2(i,numComp,1)] = f_01[i]*c0 + f_11[i]*c1;                          o[INDEX2(i,numComp,1)] = c0*f_01[i] + c1*f_11[i];
1831                      } /* end of component loop i */                      } /* end of component loop i */
1832                  } /* end of k0 loop */                  } /* end of k0 loop */
1833              } /* end of face 3 */              } /* end of face 3 */
1834          } // end of parallel section          } /* end of parallel section */
1835      }      }
1836  }  }
1837    
# Line 1466  void Rectangle::assemblePDESingle(Paso_S Line 1841  void Rectangle::assemblePDESingle(Paso_S
1841          const escript::Data& C, const escript::Data& D,          const escript::Data& C, const escript::Data& D,
1842          const escript::Data& X, const escript::Data& Y) const          const escript::Data& X, const escript::Data& Y) const
1843  {  {
1844      const double h0 = m_l0/m_gNE0;      const double SQRT3 = 1.73205080756887719318;
1845      const double h1 = m_l1/m_gNE1;      const double w1 = 1.0/24.0;
1846      const double w0 = -0.1555021169820365539*h1/h0;      const double w5 = -SQRT3/24 + 1.0/12;
1847      const double w1 = 0.041666666666666666667;      const double w2 = -SQRT3/24 - 1.0/12;
1848      const double w2 = -0.15550211698203655390;      const double w19 = -m_dx[0]/12;
1849      const double w3 = 0.041666666666666666667*h0/h1;      const double w11 = w19*(SQRT3 + 3)/12;
1850      const double w4 = 0.15550211698203655390;      const double w14 = w19*(-SQRT3 + 3)/12;
1851      const double w5 = -0.041666666666666666667;      const double w16 = w19*(5*SQRT3 + 9)/12;
1852      const double w6 = -0.01116454968463011277*h1/h0;      const double w17 = w19*(-5*SQRT3 + 9)/12;
1853      const double w7 = 0.011164549684630112770;      const double w27 = w19*(-SQRT3 - 3)/2;
1854      const double w8 = -0.011164549684630112770;      const double w28 = w19*(SQRT3 - 3)/2;
1855      const double w9 = -0.041666666666666666667*h1/h0;      const double w18 = -m_dx[1]/12;
1856      const double w10 = -0.041666666666666666667*h0/h1;      const double w12 = w18*(5*SQRT3 + 9)/12;
1857      const double w11 = 0.1555021169820365539*h1/h0;      const double w13 = w18*(-5*SQRT3 + 9)/12;
1858      const double w12 = 0.1555021169820365539*h0/h1;      const double w10 = w18*(SQRT3 + 3)/12;
1859      const double w13 = 0.01116454968463011277*h0/h1;      const double w15 = w18*(-SQRT3 + 3)/12;
1860      const double w14 = 0.01116454968463011277*h1/h0;      const double w25 = w18*(-SQRT3 - 3)/2;
1861      const double w15 = 0.041666666666666666667*h1/h0;      const double w26 = w18*(SQRT3 - 3)/2;
1862      const double w16 = -0.01116454968463011277*h0/h1;      const double w22 = m_dx[0]*m_dx[1]/144;
1863      const double w17 = -0.1555021169820365539*h0/h1;      const double w20 = w22*(SQRT3 + 2);
1864      const double w18 = -0.33333333333333333333*h1/h0;      const double w21 = w22*(-SQRT3 + 2);
1865      const double w19 = 0.25;      const double w23 = w22*(4*SQRT3 + 7);
1866      const double w20 = -0.25;      const double w24 = w22*(-4*SQRT3 + 7);
1867      const double w21 = 0.16666666666666666667*h0/h1;      const double w3 = m_dx[0]/(24*m_dx[1]);
1868      const double w22 = -0.16666666666666666667*h1/h0;      const double w7 = w3*(SQRT3 + 2);
1869      const double w23 = -0.16666666666666666667*h0/h1;      const double w8 = w3*(-SQRT3 + 2);
1870      const double w24 = 0.33333333333333333333*h1/h0;      const double w6 = -m_dx[1]/(24*m_dx[0]);
1871      const double w25 = 0.33333333333333333333*h0/h1;      const double w0 = w6*(SQRT3 + 2);
1872      const double w26 = 0.16666666666666666667*h1/h0;      const double w4 = w6*(-SQRT3 + 2);
     const double w27 = -0.33333333333333333333*h0/h1;  
     const double w28 = -0.032861463941450536761*h1;  
     const double w29 = -0.032861463941450536761*h0;  
     const double w30 = -0.12264065304058601714*h1;  
     const double w31 = -0.0023593469594139828636*h1;  
     const double w32 = -0.008805202725216129906*h0;  
     const double w33 = -0.008805202725216129906*h1;  
     const double w34 = 0.032861463941450536761*h1;  
     const double w35 = 0.008805202725216129906*h1;  
     const double w36 = 0.008805202725216129906*h0;  
     const double w37 = 0.0023593469594139828636*h1;  
     const double w38 = 0.12264065304058601714*h1;  
     const double w39 = 0.032861463941450536761*h0;  
     const double w40 = -0.12264065304058601714*h0;  
     const double w41 = -0.0023593469594139828636*h0;  
     const double w42 = 0.0023593469594139828636*h0;  
     const double w43 = 0.12264065304058601714*h0;  
     const double w44 = -0.16666666666666666667*h1;  
     const double w45 = -0.083333333333333333333*h0;  
     const double w46 = 0.083333333333333333333*h1;  
     const double w47 = 0.16666666666666666667*h1;  
     const double w48 = 0.083333333333333333333*h0;  
     const double w49 = -0.16666666666666666667*h0;  
     const double w50 = 0.16666666666666666667*h0;  
     const double w51 = -0.083333333333333333333*h1;  
     const double w52 = 0.025917019497006092316*h0*h1;  
     const double w53 = 0.0018607582807716854616*h0*h1;  
     const double w54 = 0.0069444444444444444444*h0*h1;  
     const double w55 = 0.09672363354357992482*h0*h1;  
     const double w56 = 0.00049858867864229740201*h0*h1;  
     const double w57 = 0.055555555555555555556*h0*h1;  
     const double w58 = 0.027777777777777777778*h0*h1;  
     const double w59 = 0.11111111111111111111*h0*h1;  
     const double w60 = -0.19716878364870322056*h1;  
     const double w61 = -0.19716878364870322056*h0;  
     const double w62 = -0.052831216351296779436*h0;  
     const double w63 = -0.052831216351296779436*h1;  
     const double w64 = 0.19716878364870322056*h1;  
     const double w65 = 0.052831216351296779436*h1;  
     const double w66 = 0.19716878364870322056*h0;  
     const double w67 = 0.052831216351296779436*h0;  
     const double w68 = -0.5*h1;  
     const double w69 = -0.5*h0;  
     const double w70 = 0.5*h1;  
     const double w71 = 0.5*h0;  
     const double w72 = 0.1555021169820365539*h0*h1;  
     const double w73 = 0.041666666666666666667*h0*h1;  
     const double w74 = 0.01116454968463011277*h0*h1;  
     const double w75 = 0.25*h0*h1;  
1873    
1874      rhs.requireWrite();      rhs.requireWrite();
1875  #pragma omp parallel  #pragma omp parallel
1876      {      {
1877          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring
1878  #pragma omp for  #pragma omp for
1879              for (index_t k1=k1_0; k1<m_NE1; k1+=2) {              for (index_t k1=k1_0; k1<m_NE[1]; k1+=2) {
1880                  for (index_t k0=0; k0<m_NE0; ++k0)  {                  for (index_t k0=0; k0<m_NE[0]; ++k0)  {
1881                      bool add_EM_S=false;                      bool add_EM_S=false;
1882                      bool add_EM_F=false;                      bool add_EM_F=false;
1883                      vector<double> EM_S(4*4, 0);                      vector<double> EM_S(4*4, 0);
1884                      vector<double> EM_F(4, 0);                      vector<double> EM_F(4, 0);
1885                      const index_t e = k0 + m_NE0*k1;                      const index_t e = k0 + m_NE[0]*k1;
1886                      ///////////////                      ///////////////
1887                      // process A //                      // process A //
1888                      ///////////////                      ///////////////
1889                      if (!A.isEmpty()) {                      if (!A.isEmpty()) {
1890                          add_EM_S=true;                          add_EM_S = true;
1891                          const double* A_p=const_cast<escript::Data*>(&A)->getSampleDataRO(e);                          const double* A_p = const_cast<escript::Data*>(&A)->getSampleDataRO(e);
1892                          if (A.actsExpanded()) {                          if (A.actsExpanded()) {
1893                              const double A_00_0 = A_p[INDEX3(0,0,0,2,2)];                              const double A_00_0 = A_p[INDEX3(0,0,0,2,2)];
                             const double A_10_0 = A_p[INDEX3(1,0,0,2,2)];  
1894                              const double A_01_0 = A_p[INDEX3(0,1,0,2,2)];                              const double A_01_0 = A_p[INDEX3(0,1,0,2,2)];
1895                                const double A_10_0 = A_p[INDEX3(1,0,0,2,2)];
1896                              const double A_11_0 = A_p[INDEX3(1,1,0,2,2)];                              const double A_11_0 = A_p[INDEX3(1,1,0,2,2)];
1897                              const double A_00_1 = A_p[INDEX3(0,0,1,2,2)];                              const double A_00_1 = A_p[INDEX3(0,0,1,2,2)];
                             const double A_10_1 = A_p[INDEX3(1,0,1,2,2)];  
1898                              const double A_01_1 = A_p[INDEX3(0,1,1,2,2)];                              const double A_01_1 = A_p[INDEX3(0,1,1,2,2)];
1899                                const double A_10_1 = A_p[INDEX3(1,0,1,2,2)];
1900                              const double A_11_1 = A_p[INDEX3(1,1,1,2,2)];                              const double A_11_1 = A_p[INDEX3(1,1,1,2,2)];
1901                              const double A_00_2 = A_p[INDEX3(0,0,2,2,2)];                              const double A_00_2 = A_p[INDEX3(0,0,2,2,2)];
                             const double A_10_2 = A_p[INDEX3(1,0,2,2,2)];  
1902                              const double A_01_2 = A_p[INDEX3(0,1,2,2,2)];                              const double A_01_2 = A_p[INDEX3(0,1,2,2,2)];
1903                                const double A_10_2 = A_p[INDEX3(1,0,2,2,2)];
1904                              const double A_11_2 = A_p[INDEX3(1,1,2,2,2)];                              const double A_11_2 = A_p[INDEX3(1,1,2,2,2)];
1905                              const double A_00_3 = A_p[INDEX3(0,0,3,2,2)];                              const double A_00_3 = A_p[INDEX3(0,0,3,2,2)];
                             const double A_10_3 = A_p[INDEX3(1,0,3,2,2)];  
1906                              const double A_01_3 = A_p[INDEX3(0,1,3,2,2)];                              const double A_01_3 = A_p[INDEX3(0,1,3,2,2)];
1907                                const double A_10_3 = A_p[INDEX3(1,0,3,2,2)];
1908                              const double A_11_3 = A_p[INDEX3(1,1,3,2,2)];                              const double A_11_3 = A_p[INDEX3(1,1,3,2,2)];
1909                              const double tmp0_0 = A_01_0 + A_01_3;                              const double tmp0 = w3*(A_11_0 + A_11_1 + A_11_2 + A_11_3);
1910                              const double tmp1_0 = A_00_0 + A_00_1;                              const double tmp1 = w1*(A_01_0 + A_01_3 - A_10_1 - A_10_2);
1911                              const double tmp2_0 = A_11_0 + A_11_1 + A_11_2 + A_11_3;                              const double tmp2 = w4*(A_00_2 + A_00_3);
1912                              const double tmp3_0 = A_00_2 + A_00_3;                              const double tmp3 = w0*(A_00_0 + A_00_1);
1913                              const double tmp4_0 = A_10_1 + A_10_2;                              const double tmp4 = w5*(A_01_2 - A_10_3);
1914                              const double tmp5_0 = A_00_0 + A_00_1 + A_00_2 + A_00_3;                              const double tmp5 = w2*(-A_01_1 + A_10_0);
1915                              const double tmp6_0 = A_01_3 + A_10_0;                              const double tmp6 = w5*(A_01_3 + A_10_0);
1916                              const double tmp7_0 = A_01_0 + A_10_3;                              const double tmp7 = w3*(-A_11_0 - A_11_1 - A_11_2 - A_11_3);
1917                              const double tmp8_0 = A_01_1 + A_01_2 + A_10_1 + A_10_2;                              const double tmp8 = w6*(A_00_0 + A_00_1 + A_00_2 + A_00_3);
1918                              const double tmp9_0 = A_01_0 + A_10_0;                              const double tmp9 = w1*(A_01_1 + A_01_2 + A_10_1 + A_10_2);
1919                              const double tmp12_0 = A_11_0 + A_11_2;                              const double tmp10 = w2*(-A_01_0 - A_10_3);
1920                              const double tmp10_0 = A_01_3 + A_10_3;                              const double tmp11 = w4*(A_00_0 + A_00_1);
1921                              const double tmp14_0 = A_01_0 + A_01_3 + A_10_0 + A_10_3;                              const double tmp12 = w0*(A_00_2 + A_00_3);
1922                              const double tmp13_0 = A_01_2 + A_10_1;                              const double tmp13 = w5*(A_01_1 - A_10_0);
1923                              const double tmp11_0 = A_11_1 + A_11_3;                              const double tmp14 = w2*(-A_01_2 + A_10_3);
1924                              const double tmp18_0 = A_01_1 + A_10_1;                              const double tmp15 = w7*(A_11_0 + A_11_2);
1925                              const double tmp15_0 = A_01_1 + A_10_2;                              const double tmp16 = w4*(-A_00_2 - A_00_3);
1926                              const double tmp16_0 = A_10_0 + A_10_3;                              const double tmp17 = w0*(-A_00_0 - A_00_1);
1927                              const double tmp17_0 = A_01_1 + A_01_2;                              const double tmp18 = w5*(A_01_3 + A_10_3);
1928                              const double tmp19_0 = A_01_2 + A_10_2;                              const double tmp19 = w8*(A_11_1 + A_11_3);
1929                              const double tmp0_1 = A_10_3*w8;                              const double tmp20 = w2*(-A_01_0 - A_10_0);
1930                              const double tmp1_1 = tmp0_0*w1;                              const double tmp21 = w7*(A_11_1 + A_11_3);
1931                              const double tmp2_1 = A_01_1*w4;                              const double tmp22 = w4*(-A_00_0 - A_00_1);
1932                              const double tmp3_1 = tmp1_0*w0;                              const double tmp23 = w0*(-A_00_2 - A_00_3);
1933                              const double tmp4_1 = A_01_2*w7;                              const double tmp24 = w5*(A_01_0 + A_10_0);
1934                              const double tmp5_1 = tmp2_0*w3;                              const double tmp25 = w8*(A_11_0 + A_11_2);
1935                              const double tmp6_1 = tmp3_0*w6;                              const double tmp26 = w2*(-A_01_3 - A_10_3);
1936                              const double tmp7_1 = A_10_0*w2;                              const double tmp27 = w5*(-A_01_1 - A_10_2);
1937                              const double tmp8_1 = tmp4_0*w5;                              const double tmp28 = w1*(-A_01_0 - A_01_3 - A_10_0 - A_10_3);
1938                              const double tmp9_1 = tmp2_0*w10;                              const double tmp29 = w2*(A_01_2 + A_10_1);
1939                              const double tmp14_1 = A_10_0*w8;                              const double tmp30 = w7*(-A_11_1 - A_11_3);
1940                              const double tmp23_1 = tmp3_0*w14;                              const double tmp31 = w1*(-A_01_1 - A_01_2 + A_10_0 + A_10_3);
1941                              const double tmp35_1 = A_01_0*w8;                              const double tmp32 = w5*(-A_01_0 + A_10_2);
1942                              const double tmp54_1 = tmp13_0*w8;                              const double tmp33 = w8*(-A_11_0 - A_11_2);
1943                              const double tmp20_1 = tmp9_0*w4;                              const double tmp34 = w6*(-A_00_0 - A_00_1 - A_00_2 - A_00_3);
1944                              const double tmp25_1 = tmp12_0*w12;                              const double tmp35 = w2*(A_01_3 - A_10_1);
1945                              const double tmp44_1 = tmp7_0*w7;                              const double tmp36 = w5*(A_01_0 + A_10_3);
1946                              const double tmp26_1 = tmp10_0*w4;                              const double tmp37 = w2*(-A_01_3 - A_10_0);
1947                              const double tmp52_1 = tmp18_0*w8;                              const double tmp38 = w7*(-A_11_0 - A_11_2);
1948                              const double tmp48_1 = A_10_1*w7;                              const double tmp39 = w5*(-A_01_3 + A_10_1);
1949                              const double tmp46_1 = A_01_3*w8;                              const double tmp40 = w8*(-A_11_1 - A_11_3);
1950                              const double tmp50_1 = A_01_0*w2;                              const double tmp41 = w2*(A_01_0 - A_10_2);
1951                              const double tmp56_1 = tmp19_0*w8;                              const double tmp42 = w5*(A_01_1 - A_10_3);
1952                              const double tmp19_1 = A_10_3*w2;                              const double tmp43 = w2*(-A_01_2 + A_10_0);
1953                              const double tmp47_1 = A_10_2*w4;                              const double tmp44 = w5*(A_01_2 - A_10_0);
1954                              const double tmp16_1 = tmp3_0*w0;                              const double tmp45 = w2*(-A_01_1 + A_10_3);
1955                              const double tmp18_1 = tmp1_0*w6;                              const double tmp46 = w5*(-A_01_0 + A_10_1);
1956                              const double tmp31_1 = tmp11_0*w12;                              const double tmp47 = w2*(A_01_3 - A_10_2);
1957                              const double tmp55_1 = tmp15_0*w2;                              const double tmp48 = w5*(-A_01_1 - A_10_1);
1958                              const double tmp39_1 = A_10_2*w7;                              const double tmp49 = w2*(A_01_2 + A_10_2);
1959                              const double tmp11_1 = tmp6_0*w7;                              const double tmp50 = w5*(-A_01_3 + A_10_2);
1960                              const double tmp40_1 = tmp11_0*w17;                              const double tmp51 = w2*(A_01_0 - A_10_1);
1961                              const double tmp34_1 = tmp15_0*w8;                              const double tmp52 = w5*(-A_01_2 - A_10_1);
1962                              const double tmp33_1 = tmp14_0*w5;                              const double tmp53 = w2*(A_01_1 + A_10_2);
1963                              const double tmp24_1 = tmp11_0*w13;                              const double tmp54 = w5*(-A_01_2 - A_10_2);
1964                              const double tmp43_1 = tmp17_0*w5;                              const double tmp55 = w2*(A_01_1 + A_10_1);
1965                              const double tmp15_1 = A_01_2*w4;                              EM_S[INDEX2(0,0,4)]+=tmp15 + tmp16 + tmp17 + tmp18 + tmp19 + tmp20 + tmp9;
1966                              const double tmp53_1 = tmp19_0*w2;                              EM_S[INDEX2(0,1,4)]+=tmp0 + tmp1 + tmp2 + tmp3 + tmp4 + tmp5;
1967                              const double tmp27_1 = tmp3_0*w11;                              EM_S[INDEX2(0,2,4)]+=tmp31 + tmp34 + tmp38 + tmp39 + tmp40 + tmp41;
1968                              const double tmp32_1 = tmp13_0*w2;                              EM_S[INDEX2(0,3,4)]+=tmp28 + tmp52 + tmp53 + tmp7 + tmp8;
1969                              const double tmp10_1 = tmp5_0*w9;                              EM_S[INDEX2(1,0,4)]+=tmp0 + tmp2 + tmp3 + tmp31 + tmp50 + tmp51;
1970                              const double tmp37_1 = A_10_1*w4;                              EM_S[INDEX2(1,1,4)]+=tmp16 + tmp17 + tmp21 + tmp25 + tmp28 + tmp54 + tmp55;
1971                              const double tmp38_1 = tmp5_0*w15;                              EM_S[INDEX2(1,2,4)]+=tmp10 + tmp6 + tmp7 + tmp8 + tmp9;
1972                              const double tmp17_1 = A_01_1*w7;                              EM_S[INDEX2(1,3,4)]+=tmp1 + tmp30 + tmp33 + tmp34 + tmp44 + tmp45;
1973                              const double tmp12_1 = tmp7_0*w4;                              EM_S[INDEX2(2,0,4)]+=tmp1 + tmp34 + tmp38 + tmp40 + tmp42 + tmp43;
1974                              const double tmp22_1 = tmp10_0*w7;                              EM_S[INDEX2(2,1,4)]+=tmp36 + tmp37 + tmp7 + tmp8 + tmp9;
1975                              const double tmp57_1 = tmp18_0*w2;                              EM_S[INDEX2(2,2,4)]+=tmp15 + tmp19 + tmp22 + tmp23 + tmp28 + tmp48 + tmp49;
1976                              const double tmp28_1 = tmp9_0*w7;                              EM_S[INDEX2(2,3,4)]+=tmp0 + tmp11 + tmp12 + tmp31 + tmp46 + tmp47;
1977                              const double tmp29_1 = tmp1_0*w14;                              EM_S[INDEX2(3,0,4)]+=tmp27 + tmp28 + tmp29 + tmp7 + tmp8;
1978                              const double tmp51_1 = tmp11_0*w16;                              EM_S[INDEX2(3,1,4)]+=tmp30 + tmp31 + tmp32 + tmp33 + tmp34 + tmp35;
1979                              const double tmp42_1 = tmp12_0*w16;                              EM_S[INDEX2(3,2,4)]+=tmp0 + tmp1 + tmp11 + tmp12 + tmp13 + tmp14;
1980                              const double tmp49_1 = tmp12_0*w17;                              EM_S[INDEX2(3,3,4)]+=tmp21 + tmp22 + tmp23 + tmp24 + tmp25 + tmp26 + tmp9;
                             const double tmp21_1 = tmp1_0*w11;  
                             const double tmp45_1 = tmp6_0*w4;  
                             const double tmp13_1 = tmp8_0*w1;  
                             const double tmp36_1 = tmp16_0*w1;  
                             const double tmp41_1 = A_01_3*w2;  
                             const double tmp30_1 = tmp12_0*w13;  
                             EM_S[INDEX2(0,0,4)]+=tmp13_1 + tmp20_1 + tmp21_1 + tmp22_1 + tmp23_1 + tmp24_1 + tmp25_1;  
                             EM_S[INDEX2(1,0,4)]+=tmp36_1 + tmp37_1 + tmp39_1 + tmp3_1 + tmp43_1 + tmp46_1 + tmp50_1 + tmp5_1 + tmp6_1;  
                             EM_S[INDEX2(2,0,4)]+=tmp0_1 + tmp15_1 + tmp17_1 + tmp1_1 + tmp38_1 + tmp49_1 + tmp51_1 + tmp7_1 + tmp8_1;  
                             EM_S[INDEX2(3,0,4)]+=tmp10_1 + tmp32_1 + tmp33_1 + tmp34_1 + tmp9_1;  
                             EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1 + tmp4_1 + tmp5_1 + tmp6_1 + tmp7_1 + tmp8_1;  
                             EM_S[INDEX2(1,1,4)]+=tmp21_1 + tmp23_1 + tmp30_1 + tmp31_1 + tmp33_1 + tmp56_1 + tmp57_1;  
                             EM_S[INDEX2(2,1,4)]+=tmp10_1 + tmp13_1 + tmp44_1 + tmp45_1 + tmp9_1;  
                             EM_S[INDEX2(3,1,4)]+=tmp35_1 + tmp36_1 + tmp37_1 + tmp38_1 + tmp39_1 + tmp40_1 + tmp41_1 + tmp42_1 + tmp43_1;  
                             EM_S[INDEX2(0,2,4)]+=tmp36_1 + tmp38_1 + tmp43_1 + tmp46_1 + tmp47_1 + tmp48_1 + tmp49_1 + tmp50_1 + tmp51_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1 + tmp9_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp24_1 + tmp25_1 + tmp27_1 + tmp29_1 + tmp33_1 + tmp52_1 + tmp53_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp14_1 + tmp15_1 + tmp16_1 + tmp17_1 + tmp18_1 + tmp19_1 + tmp1_1 + tmp5_1 + tmp8_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp10_1 + tmp33_1 + tmp54_1 + tmp55_1 + tmp9_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp14_1 + tmp19_1 + tmp1_1 + tmp2_1 + tmp38_1 + tmp40_1 + tmp42_1 + tmp4_1 + tmp8_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp16_1 + tmp18_1 + tmp35_1 + tmp36_1 + tmp41_1 + tmp43_1 + tmp47_1 + tmp48_1 + tmp5_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp13_1 + tmp26_1 + tmp27_1 + tmp28_1 + tmp29_1 + tmp30_1 + tmp31_1;  
1981                          } else { // constant data                          } else { // constant data
1982                              const double A_00 = A_p[INDEX2(0,0,2)];                              const double A_00 = A_p[INDEX2(0,0,2)];
                             const double A_10 = A_p[INDEX2(1,0,2)];  
1983                              const double A_01 = A_p[INDEX2(0,1,2)];                              const double A_01 = A_p[INDEX2(0,1,2)];
1984                                const double A_10 = A_p[INDEX2(1,0,2)];
1985                              const double A_11 = A_p[INDEX2(1,1,2)];                              const double A_11 = A_p[INDEX2(1,1,2)];
1986                              const double tmp0_0 = A_01 + A_10;                              const double tmp0 = 6*w1*(A_01 - A_10);
1987                              const double tmp0_1 = A_00*w18;                              const double tmp1 = 6*w1*(A_01 + A_10);
1988                              const double tmp1_1 = A_01*w19;                              const double tmp2 = 6*w1*(-A_01 - A_10);
1989                              const double tmp2_1 = A_10*w20;                              const double tmp3 = 6*w1*(-A_01 + A_10);
1990                              const double tmp3_1 = A_11*w21;                              EM_S[INDEX2(0,0,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp1;
1991                              const double tmp4_1 = A_00*w22;                              EM_S[INDEX2(0,1,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp0;
1992                              const double tmp5_1 = tmp0_0*w19;                              EM_S[INDEX2(0,2,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp3;
1993                              const double tmp6_1 = A_11*w23;                              EM_S[INDEX2(0,3,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp2;
1994                              const double tmp7_1 = A_11*w25;                              EM_S[INDEX2(1,0,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp3;
1995                              const double tmp8_1 = A_00*w24;                              EM_S[INDEX2(1,1,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp2;
1996                              const double tmp9_1 = tmp0_0*w20;                              EM_S[INDEX2(1,2,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp1;
1997                              const double tmp10_1 = A_01*w20;                              EM_S[INDEX2(1,3,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp0;
1998                              const double tmp11_1 = A_11*w27;                              EM_S[INDEX2(2,0,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp0;
1999                              const double tmp12_1 = A_00*w26;                              EM_S[INDEX2(2,1,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp1;
2000                              const double tmp13_1 = A_10*w19;                              EM_S[INDEX2(2,2,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp2;
2001                              EM_S[INDEX2(0,0,4)]+=tmp5_1 + tmp7_1 + tmp8_1;                              EM_S[INDEX2(2,3,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp3;
2002                              EM_S[INDEX2(1,0,4)]+=tmp0_1 + tmp10_1 + tmp13_1 + tmp3_1;                              EM_S[INDEX2(3,0,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp2;
2003                              EM_S[INDEX2(2,0,4)]+=tmp11_1 + tmp12_1 + tmp1_1 + tmp2_1;                              EM_S[INDEX2(3,1,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp3;
2004                              EM_S[INDEX2(3,0,4)]+=tmp4_1 + tmp6_1 + tmp9_1;                              EM_S[INDEX2(3,2,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp0;
2005                              EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;                              EM_S[INDEX2(3,3,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp1;
                             EM_S[INDEX2(1,1,4)]+=tmp7_1 + tmp8_1 + tmp9_1;  
                             EM_S[INDEX2(2,1,4)]+=tmp4_1 + tmp5_1 + tmp6_1;  
                             EM_S[INDEX2(3,1,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1;  
                             EM_S[INDEX2(0,2,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp4_1 + tmp5_1 + tmp6_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp7_1 + tmp8_1 + tmp9_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp4_1 + tmp6_1 + tmp9_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp11_1 + tmp12_1 + tmp1_1 + tmp2_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp10_1 + tmp13_1 + tmp3_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp5_1 + tmp7_1 + tmp8_1;  
2006                          }                          }
2007                      }                      }
2008                      ///////////////                      ///////////////
# Line 1727  void Rectangle::assemblePDESingle(Paso_S Line 2020  void Rectangle::assemblePDESingle(Paso_S
2020                              const double B_1_2 = B_p[INDEX2(1,2,2)];                              const double B_1_2 = B_p[INDEX2(1,2,2)];
2021                              const double B_0_3 = B_p[INDEX2(0,3,2)];                              const double B_0_3 = B_p[INDEX2(0,3,2)];
2022                              const double B_1_3 = B_p[INDEX2(1,3,2)];                              const double B_1_3 = B_p[INDEX2(1,3,2)];
2023                              const double tmp0_0 = B_1_0 + B_1_1;                              const double tmp0 = w11*(B_1_0 + B_1_1);
2024                              const double tmp1_0 = B_1_2 + B_1_3;                              const double tmp1 = w14*(B_1_2 + B_1_3);
2025                              const double tmp2_0 = B_0_1 + B_0_3;                              const double tmp2 = w15*(-B_0_1 - B_0_3);
2026                              const double tmp3_0 = B_0_0 + B_0_2;                              const double tmp3 = w10*(-B_0_0 - B_0_2);
2027                              const double tmp63_1 = B_1_1*w42;                              const double tmp4 = w11*(B_1_2 + B_1_3);
2028                              const double tmp79_1 = B_1_1*w40;                              const double tmp5 = w14*(B_1_0 + B_1_1);
2029                              const double tmp37_1 = tmp3_0*w35;                              const double tmp6 = w11*(-B_1_2 - B_1_3);
2030                              const double tmp8_1 = tmp0_0*w32;                              const double tmp7 = w14*(-B_1_0 - B_1_1);
2031                              const double tmp71_1 = B_0_1*w34;                              const double tmp8 = w11*(-B_1_0 - B_1_1);
2032                              const double tmp19_1 = B_0_3*w31;                              const double tmp9 = w14*(-B_1_2 - B_1_3);
2033                              const double tmp15_1 = B_0_3*w34;                              const double tmp10 = w10*(-B_0_1 - B_0_3);
2034                              const double tmp9_1 = tmp3_0*w34;                              const double tmp11 = w15*(-B_0_0 - B_0_2);
2035                              const double tmp35_1 = B_1_0*w36;                              const double tmp12 = w15*(B_0_0 + B_0_2);
2036                              const double tmp66_1 = B_0_3*w28;                              const double tmp13 = w10*(B_0_1 + B_0_3);
2037                              const double tmp28_1 = B_1_0*w42;                              const double tmp14 = w10*(B_0_0 + B_0_2);
2038                              const double tmp22_1 = B_1_0*w40;                              const double tmp15 = w15*(B_0_1 + B_0_3);
2039                              const double tmp16_1 = B_1_2*w29;                              EM_S[INDEX2(0,0,4)]+=B_0_0*w12 + B_0_1*w10 + B_0_2*w15 + B_0_3*w13 + B_1_0*w16 + B_1_1*w14 + B_1_2*w11 + B_1_3*w17;
2040                              const double tmp6_1 = tmp2_0*w35;                              EM_S[INDEX2(0,1,4)]+=B_0_0*w10 + B_0_1*w12 + B_0_2*w13 + B_0_3*w15 + tmp0 + tmp1;
2041                              const double tmp55_1 = B_1_3*w40;                              EM_S[INDEX2(0,2,4)]+=B_1_0*w11 + B_1_1*w17 + B_1_2*w16 + B_1_3*w14 + tmp14 + tmp15;
2042                              const double tmp50_1 = B_1_3*w42;                              EM_S[INDEX2(0,3,4)]+=tmp12 + tmp13 + tmp4 + tmp5;
2043                              const double tmp7_1 = tmp1_0*w29;                              EM_S[INDEX2(1,0,4)]+=-B_0_0*w12 - B_0_1*w10 - B_0_2*w15 - B_0_3*w13 + tmp0 + tmp1;
2044                              const double tmp1_1 = tmp1_0*w32;                              EM_S[INDEX2(1,1,4)]+=-B_0_0*w10 - B_0_1*w12 - B_0_2*w13 - B_0_3*w15 + B_1_0*w14 + B_1_1*w16 + B_1_2*w17 + B_1_3*w11;
2045                              const double tmp57_1 = B_0_3*w30;                              EM_S[INDEX2(1,2,4)]+=tmp2 + tmp3 + tmp4 + tmp5;
2046                              const double tmp18_1 = B_1_1*w32;                              EM_S[INDEX2(1,3,4)]+=B_1_0*w17 + B_1_1*w11 + B_1_2*w14 + B_1_3*w16 + tmp10 + tmp11;
2047                              const double tmp53_1 = B_1_0*w41;                              EM_S[INDEX2(2,0,4)]+=-B_1_0*w16 - B_1_1*w14 - B_1_2*w11 - B_1_3*w17 + tmp14 + tmp15;
2048                              const double tmp61_1 = B_1_3*w36;                              EM_S[INDEX2(2,1,4)]+=tmp12 + tmp13 + tmp8 + tmp9;
2049                              const double tmp27_1 = B_0_3*w38;                              EM_S[INDEX2(2,2,4)]+=B_0_0*w15 + B_0_1*w13 + B_0_2*w12 + B_0_3*w10 - B_1_0*w11 - B_1_1*w17 - B_1_2*w16 - B_1_3*w14;
2050                              const double tmp64_1 = B_0_2*w30;                              EM_S[INDEX2(2,3,4)]+=B_0_0*w13 + B_0_1*w15 + B_0_2*w10 + B_0_3*w12 + tmp6 + tmp7;
2051                              const double tmp76_1 = B_0_1*w38;                              EM_S[INDEX2(3,0,4)]+=tmp2 + tmp3 + tmp8 + tmp9;
2052                              const double tmp39_1 = tmp2_0*w34;                              EM_S[INDEX2(3,1,4)]+=-B_1_0*w14 - B_1_1*w16 - B_1_2*w17 - B_1_3*w11 + tmp10 + tmp11;
2053                              const double tmp62_1 = B_0_1*w31;                              EM_S[INDEX2(3,2,4)]+=-B_0_0*w15 - B_0_1*w13 - B_0_2*w12 - B_0_3*w10 + tmp6 + tmp7;
2054                              const double tmp56_1 = B_0_0*w31;                              EM_S[INDEX2(3,3,4)]+=-B_0_0*w13 - B_0_1*w15 - B_0_2*w10 - B_0_3*w12 - B_1_0*w17 - B_1_1*w11 - B_1_2*w14 - B_1_3*w16;
                             const double tmp49_1 = B_1_1*w36;  
                             const double tmp2_1 = B_0_2*w31;  
                             const double tmp23_1 = B_0_2*w33;  
                             const double tmp38_1 = B_1_1*w43;  
                             const double tmp74_1 = B_1_2*w41;  
                             const double tmp43_1 = B_1_1*w41;  
                             const double tmp58_1 = B_0_2*w28;  
                             const double tmp67_1 = B_0_0*w33;  
                             const double tmp33_1 = tmp0_0*w39;  
                             const double tmp4_1 = B_0_0*w28;  
                             const double tmp20_1 = B_0_0*w30;  
                             const double tmp13_1 = B_0_2*w38;  
                             const double tmp65_1 = B_1_2*w43;  
                             const double tmp0_1 = tmp0_0*w29;  
                             const double tmp41_1 = tmp3_0*w33;  
                             const double tmp73_1 = B_0_2*w37;  
                             const double tmp69_1 = B_0_0*w38;  
                             const double tmp48_1 = B_1_2*w39;  
                             const double tmp59_1 = B_0_1*w33;  
                             const double tmp17_1 = B_1_3*w41;  
                             const double tmp5_1 = B_0_3*w33;  
                             const double tmp3_1 = B_0_1*w30;  
                             const double tmp21_1 = B_0_1*w28;  
                             const double tmp42_1 = B_1_0*w29;  
                             const double tmp54_1 = B_1_2*w32;  
                             const double tmp60_1 = B_1_0*w39;  
                             const double tmp32_1 = tmp1_0*w36;  
                             const double tmp10_1 = B_0_1*w37;  
                             const double tmp14_1 = B_0_0*w35;  
                             const double tmp29_1 = B_0_1*w35;  
                             const double tmp26_1 = B_1_2*w36;  
                             const double tmp30_1 = B_1_3*w43;  
                             const double tmp70_1 = B_0_2*w35;  
                             const double tmp34_1 = B_1_3*w39;  
                             const double tmp51_1 = B_1_0*w43;  
                             const double tmp31_1 = B_0_2*w34;  
                             const double tmp45_1 = tmp3_0*w28;  
                             const double tmp11_1 = tmp1_0*w39;  
                             const double tmp52_1 = B_1_1*w29;  
                             const double tmp44_1 = B_1_3*w32;  
                             const double tmp25_1 = B_1_1*w39;  
                             const double tmp47_1 = tmp2_0*w33;  
                             const double tmp72_1 = B_1_3*w29;  
                             const double tmp40_1 = tmp2_0*w28;  
                             const double tmp46_1 = B_1_2*w40;  
                             const double tmp36_1 = B_1_2*w42;  
                             const double tmp24_1 = B_0_0*w37;  
                             const double tmp77_1 = B_0_3*w35;  
                             const double tmp68_1 = B_0_3*w37;  
                             const double tmp78_1 = B_0_0*w34;  
                             const double tmp12_1 = tmp0_0*w36;  
                             const double tmp75_1 = B_1_0*w32;  
                             EM_S[INDEX2(0,0,4)]+=tmp16_1 + tmp17_1 + tmp18_1 + tmp19_1 + tmp20_1 + tmp21_1 + tmp22_1 + tmp23_1;  
                             EM_S[INDEX2(1,0,4)]+=tmp0_1 + tmp1_1 + tmp68_1 + tmp69_1 + tmp70_1 + tmp71_1;  
                             EM_S[INDEX2(2,0,4)]+=tmp45_1 + tmp47_1 + tmp48_1 + tmp49_1 + tmp50_1 + tmp51_1;  
                             EM_S[INDEX2(3,0,4)]+=tmp32_1 + tmp33_1 + tmp6_1 + tmp9_1;  
                             EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1 + tmp4_1 + tmp5_1;  
                             EM_S[INDEX2(1,1,4)]+=tmp72_1 + tmp73_1 + tmp74_1 + tmp75_1 + tmp76_1 + tmp77_1 + tmp78_1 + tmp79_1;  
                             EM_S[INDEX2(2,1,4)]+=tmp32_1 + tmp33_1 + tmp40_1 + tmp41_1;  
                             EM_S[INDEX2(3,1,4)]+=tmp34_1 + tmp35_1 + tmp36_1 + tmp37_1 + tmp38_1 + tmp39_1;  
                             EM_S[INDEX2(0,2,4)]+=tmp42_1 + tmp43_1 + tmp44_1 + tmp45_1 + tmp46_1 + tmp47_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp6_1 + tmp7_1 + tmp8_1 + tmp9_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp60_1 + tmp61_1 + tmp62_1 + tmp63_1 + tmp64_1 + tmp65_1 + tmp66_1 + tmp67_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1 + tmp14_1 + tmp15_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp40_1 + tmp41_1 + tmp7_1 + tmp8_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp37_1 + tmp39_1 + tmp52_1 + tmp53_1 + tmp54_1 + tmp55_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp11_1 + tmp12_1 + tmp56_1 + tmp57_1 + tmp58_1 + tmp59_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp24_1 + tmp25_1 + tmp26_1 + tmp27_1 + tmp28_1 + tmp29_1 + tmp30_1 + tmp31_1;  
2055                          } else { // constant data                          } else { // constant data
2056                              const double B_0 = B_p[0];                              const double B_0 = B_p[0];
2057                              const double B_1 = B_p[1];                              const double B_1 = B_p[1];
2058                              const double tmp0_1 = B_0*w44;                              EM_S[INDEX2(0,0,4)]+= 2*B_0*w18 + 2*B_1*w19;
2059                              const double tmp1_1 = B_1*w45;                              EM_S[INDEX2(0,1,4)]+= 2*B_0*w18 +   B_1*w19;
2060                              const double tmp2_1 = B_0*w46;                              EM_S[INDEX2(0,2,4)]+=   B_0*w18 + 2*B_1*w19;
2061                              const double tmp3_1 = B_0*w47;                              EM_S[INDEX2(0,3,4)]+=   B_0*w18 +   B_1*w19;
2062                              const double tmp4_1 = B_1*w48;                              EM_S[INDEX2(1,0,4)]+=-2*B_0*w18 +   B_1*w19;
2063                              const double tmp5_1 = B_1*w49;                              EM_S[INDEX2(1,1,4)]+=-2*B_0*w18 + 2*B_1*w19;
2064                              const double tmp6_1 = B_1*w50;                              EM_S[INDEX2(1,2,4)]+=  -B_0*w18 +   B_1*w19;
2065                              const double tmp7_1 = B_0*w51;                              EM_S[INDEX2(1,3,4)]+=  -B_0*w18 + 2*B_1*w19;
2066                              EM_S[INDEX2(0,0,4)]+=tmp0_1 + tmp5_1;                              EM_S[INDEX2(2,0,4)]+=   B_0*w18 - 2*B_1*w19;
2067                              EM_S[INDEX2(1,0,4)]+=tmp1_1 + tmp3_1;                              EM_S[INDEX2(2,1,4)]+=   B_0*w18 -   B_1*w19;
2068                              EM_S[INDEX2(2,0,4)]+=tmp6_1 + tmp7_1;                              EM_S[INDEX2(2,2,4)]+= 2*B_0*w18 - 2*B_1*w19;
2069                              EM_S[INDEX2(3,0,4)]+=tmp2_1 + tmp4_1;                              EM_S[INDEX2(2,3,4)]+= 2*B_0*w18 -   B_1*w19;
2070                              EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1;                              EM_S[INDEX2(3,0,4)]+=  -B_0*w18 -   B_1*w19;
2071                              EM_S[INDEX2(1,1,4)]+=tmp3_1 + tmp5_1;                              EM_S[INDEX2(3,1,4)]+=  -B_0*w18 - 2*B_1*w19;
2072                              EM_S[INDEX2(2,1,4)]+=tmp4_1 + tmp7_1;                              EM_S[INDEX2(3,2,4)]+=-2*B_0*w18 -   B_1*w19;
2073                              EM_S[INDEX2(3,1,4)]+=tmp2_1 + tmp6_1;                              EM_S[INDEX2(3,3,4)]+=-2*B_0*w18 - 2*B_1*w19;
                             EM_S[INDEX2(0,2,4)]+=tmp5_1 + tmp7_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp1_1 + tmp2_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp0_1 + tmp6_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp3_1 + tmp4_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp1_1 + tmp7_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp2_1 + tmp5_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp4_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp3_1 + tmp6_1;  
2074                          }                          }
2075                      }                      }
2076                      ///////////////                      ///////////////
# Line 1871  void Rectangle::assemblePDESingle(Paso_S Line 2088  void Rectangle::assemblePDESingle(Paso_S
2088                              const double C_1_2 = C_p[INDEX2(1,2,2)];                              const double C_1_2 = C_p[INDEX2(1,2,2)];
2089                              const double C_0_3 = C_p[INDEX2(0,3,2)];                              const double C_0_3 = C_p[INDEX2(0,3,2)];
2090                              const double C_1_3 = C_p[INDEX2(1,3,2)];                              const double C_1_3 = C_p[INDEX2(1,3,2)];
2091                              const double tmp0_0 = C_1_0 + C_1_1;                              const double tmp0 = w11*(C_1_0 + C_1_1);
2092                              const double tmp1_0 = C_1_2 + C_1_3;                              const double tmp1 = w14*(C_1_2 + C_1_3);
2093                              const double tmp2_0 = C_0_1 + C_0_3;                              const double tmp2 = w15*(C_0_0 + C_0_2);
2094                              const double tmp3_0 = C_0_0 + C_0_2;                              const double tmp3 = w10*(C_0_1 + C_0_3);
2095                              const double tmp64_1 = C_0_2*w30;                              const double tmp4 = w11*(-C_1_0 - C_1_1);
2096                              const double tmp14_1 = C_0_2*w28;                              const double tmp5 = w14*(-C_1_2 - C_1_3);
2097                              const double tmp19_1 = C_0_3*w31;                              const double tmp6 = w11*(-C_1_2 - C_1_3);
2098                              const double tmp22_1 = C_1_0*w40;                              const double tmp7 = w14*(-C_1_0 - C_1_1);
2099                              const double tmp37_1 = tmp3_0*w35;                              const double tmp8 = w11*(C_1_2 + C_1_3);
2100                              const double tmp29_1 = C_0_1*w35;                              const double tmp9 = w14*(C_1_0 + C_1_1);
2101                              const double tmp73_1 = C_0_2*w37;                              const double tmp10 = w10*(-C_0_1 - C_0_3);
2102                              const double tmp74_1 = C_1_2*w41;                              const double tmp11 = w15*(-C_0_0 - C_0_2);
2103                              const double tmp52_1 = C_1_3*w39;                              const double tmp12 = w15*(-C_0_1 - C_0_3);
2104                              const double tmp25_1 = C_1_1*w39;                              const double tmp13 = w10*(-C_0_0 - C_0_2);
2105                              const double tmp62_1 = C_0_1*w31;                              const double tmp14 = w10*(C_0_0 + C_0_2);
2106                              const double tmp79_1 = C_1_1*w40;                              const double tmp15 = w15*(C_0_1 + C_0_3);
2107                              const double tmp43_1 = C_1_1*w36;                              EM_S[INDEX2(0,0,4)]+=C_0_0*w12 + C_0_1*w10 + C_0_2*w15 + C_0_3*w13 + C_1_0*w16 + C_1_1*w14 + C_1_2*w11 + C_1_3*w17;
2108                              const double tmp27_1 = C_0_3*w38;                              EM_S[INDEX2(0,1,4)]+=-C_0_0*w12 - C_0_1*w10 - C_0_2*w15 - C_0_3*w13 + tmp0 + tmp1;
2109                              const double tmp28_1 = C_1_0*w42;                              EM_S[INDEX2(0,2,4)]+=-C_1_0*w16 - C_1_1*w14 - C_1_2*w11 - C_1_3*w17 + tmp14 + tmp15;
2110                              const double tmp63_1 = C_1_1*w42;                              EM_S[INDEX2(0,3,4)]+=tmp12 + tmp13 + tmp4 + tmp5;
2111                              const double tmp59_1 = C_0_3*w34;                              EM_S[INDEX2(1,0,4)]+=C_0_0*w10 + C_0_1*w12 + C_0_2*w13 + C_0_3*w15 + tmp0 + tmp1;
2112                              const double tmp72_1 = C_1_3*w29;                              EM_S[INDEX2(1,1,4)]+=-C_0_0*w10 - C_0_1*w12 - C_0_2*w13 - C_0_3*w15 + C_1_0*w14 + C_1_1*w16 + C_1_2*w17 + C_1_3*w11;
2113                              const double tmp40_1 = tmp2_0*w35;                              EM_S[INDEX2(1,2,4)]+=tmp2 + tmp3 + tmp4 + tmp5;
2114                              const double tmp13_1 = C_0_3*w30;                              EM_S[INDEX2(1,3,4)]+=-C_1_0*w14 - C_1_1*w16 - C_1_2*w17 - C_1_3*w11 + tmp10 + tmp11;
2115                              const double tmp51_1 = C_1_2*w40;                              EM_S[INDEX2(2,0,4)]+=C_1_0*w11 + C_1_1*w17 + C_1_2*w16 + C_1_3*w14 + tmp14 + tmp15;
2116                              const double tmp54_1 = C_1_2*w42;                              EM_S[INDEX2(2,1,4)]+=tmp12 + tmp13 + tmp8 + tmp9;
2117                              const double tmp12_1 = C_0_0*w31;                              EM_S[INDEX2(2,2,4)]+=C_0_0*w15 + C_0_1*w13 + C_0_2*w12 + C_0_3*w10 - C_1_0*w11 - C_1_1*w17 - C_1_2*w16 - C_1_3*w14;
2118                              const double tmp2_1 = tmp1_0*w32;                              EM_S[INDEX2(2,3,4)]+=-C_0_0*w15 - C_0_1*w13 - C_0_2*w12 - C_0_3*w10 + tmp6 + tmp7;
2119                              const double tmp68_1 = C_0_2*w31;                              EM_S[INDEX2(3,0,4)]+=tmp2 + tmp3 + tmp8 + tmp9;
2120                              const double tmp75_1 = C_1_0*w32;                              EM_S[INDEX2(3,1,4)]+=C_1_0*w17 + C_1_1*w11 + C_1_2*w14 + C_1_3*w16 + tmp10 + tmp11;
2121                              const double tmp49_1 = C_1_1*w41;                              EM_S[INDEX2(3,2,4)]+=C_0_0*w13 + C_0_1*w15 + C_0_2*w10 + C_0_3*w12 + tmp6 + tmp7;
2122                              const double tmp4_1 = C_0_2*w35;                              EM_S[INDEX2(3,3,4)]+=-C_0_0*w13 - C_0_1*w15 - C_0_2*w10 - C_0_3*w12 - C_1_0*w17 - C_1_1*w11 - C_1_2*w14 - C_1_3*w16;
                             const double tmp66_1 = C_0_3*w28;  
                             const double tmp56_1 = C_0_1*w37;  
                             const double tmp5_1 = C_0_1*w34;  
                             const double tmp38_1 = tmp2_0*w34;  
                             const double tmp76_1 = C_0_1*w38;  
                             const double tmp21_1 = C_0_1*w28;  
                             const double tmp69_1 = C_0_1*w30;  
                             const double tmp53_1 = C_1_0*w36;  
                             const double tmp42_1 = C_1_2*w39;  
                             const double tmp32_1 = tmp1_0*w29;  
                             const double tmp45_1 = C_1_0*w43;  
                             const double tmp33_1 = tmp0_0*w32;  
                             const double tmp35_1 = C_1_0*w41;  
                             const double tmp26_1 = C_1_2*w36;  
                             const double tmp67_1 = C_0_0*w33;  
                             const double tmp31_1 = C_0_2*w34;  
                             const double tmp20_1 = C_0_0*w30;  
                             const double tmp70_1 = C_0_0*w28;  
                             const double tmp8_1 = tmp0_0*w39;  
                             const double tmp30_1 = C_1_3*w43;  
                             const double tmp0_1 = tmp0_0*w29;  
                             const double tmp17_1 = C_1_3*w41;  
                             const double tmp58_1 = C_0_0*w35;  
                             const double tmp9_1 = tmp3_0*w33;  
                             const double tmp61_1 = C_1_3*w36;  
                             const double tmp41_1 = tmp3_0*w34;  
                             const double tmp50_1 = C_1_3*w32;  
                             const double tmp18_1 = C_1_1*w32;  
                             const double tmp6_1 = tmp1_0*w36;  
                             const double tmp3_1 = C_0_0*w38;  
                             const double tmp34_1 = C_1_1*w29;  
                             const double tmp77_1 = C_0_3*w35;  
                             const double tmp65_1 = C_1_2*w43;  
                             const double tmp71_1 = C_0_3*w33;  
                             const double tmp55_1 = C_1_1*w43;  
                             const double tmp46_1 = tmp3_0*w28;  
                             const double tmp24_1 = C_0_0*w37;  
                             const double tmp10_1 = tmp1_0*w39;  
                             const double tmp48_1 = C_1_0*w29;  
                             const double tmp15_1 = C_0_1*w33;  
                             const double tmp36_1 = C_1_2*w32;  
                             const double tmp60_1 = C_1_0*w39;  
                             const double tmp47_1 = tmp2_0*w33;  
                             const double tmp16_1 = C_1_2*w29;  
                             const double tmp1_1 = C_0_3*w37;  
                             const double tmp7_1 = tmp2_0*w28;  
                             const double tmp39_1 = C_1_3*w40;  
                             const double tmp44_1 = C_1_3*w42;  
                             const double tmp57_1 = C_0_2*w38;  
                             const double tmp78_1 = C_0_0*w34;  
                             const double tmp11_1 = tmp0_0*w36;  
                             const double tmp23_1 = C_0_2*w33;  
                             EM_S[INDEX2(0,0,4)]+=tmp16_1 + tmp17_1 + tmp18_1 + tmp19_1 + tmp20_1 + tmp21_1 + tmp22_1 + tmp23_1;  
                             EM_S[INDEX2(1,0,4)]+=tmp0_1 + tmp2_1 + tmp68_1 + tmp69_1 + tmp70_1 + tmp71_1;  
                             EM_S[INDEX2(2,0,4)]+=tmp46_1 + tmp47_1 + tmp48_1 + tmp49_1 + tmp50_1 + tmp51_1;  
                             EM_S[INDEX2(3,0,4)]+=tmp32_1 + tmp33_1 + tmp7_1 + tmp9_1;  
                             EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1 + tmp4_1 + tmp5_1;  
                             EM_S[INDEX2(1,1,4)]+=tmp72_1 + tmp73_1 + tmp74_1 + tmp75_1 + tmp76_1 + tmp77_1 + tmp78_1 + tmp79_1;  
                             EM_S[INDEX2(2,1,4)]+=tmp32_1 + tmp33_1 + tmp40_1 + tmp41_1;  
                             EM_S[INDEX2(3,1,4)]+=tmp34_1 + tmp35_1 + tmp36_1 + tmp37_1 + tmp38_1 + tmp39_1;  
                             EM_S[INDEX2(0,2,4)]+=tmp42_1 + tmp43_1 + tmp44_1 + tmp45_1 + tmp46_1 + tmp47_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp6_1 + tmp7_1 + tmp8_1 + tmp9_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp60_1 + tmp61_1 + tmp62_1 + tmp63_1 + tmp64_1 + tmp65_1 + tmp66_1 + tmp67_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1 + tmp14_1 + tmp15_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp40_1 + tmp41_1 + tmp6_1 + tmp8_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp37_1 + tmp38_1 + tmp52_1 + tmp53_1 + tmp54_1 + tmp55_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp10_1 + tmp11_1 + tmp56_1 + tmp57_1 + tmp58_1 + tmp59_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp24_1 + tmp25_1 + tmp26_1 + tmp27_1 + tmp28_1 + tmp29_1 + tmp30_1 + tmp31_1;  
2123                          } else { // constant data                          } else { // constant data
2124                              const double C_0 = C_p[0];                              const double C_0 = C_p[0];
2125                              const double C_1 = C_p[1];                              const double C_1 = C_p[1];
2126                              const double tmp0_1 = C_0*w47;                              EM_S[INDEX2(0,0,4)]+= 2*C_0*w18 + 2*C_1*w19;
2127                              const double tmp1_1 = C_1*w45;                              EM_S[INDEX2(0,1,4)]+=-2*C_0*w18 +   C_1*w19;
2128                              const double tmp2_1 = C_1*w48;                              EM_S[INDEX2(0,2,4)]+=   C_0*w18 - 2*C_1*w19;
2129                              const double tmp3_1 = C_0*w51;                              EM_S[INDEX2(0,3,4)]+=  -C_0*w18 -   C_1*w19;
2130                              const double tmp4_1 = C_0*w44;                              EM_S[INDEX2(1,0,4)]+= 2*C_0*w18 +   C_1*w19;
2131                              const double tmp5_1 = C_1*w49;                              EM_S[INDEX2(1,1,4)]+=-2*C_0*w18 + 2*C_1*w19;
2132                              const double tmp6_1 = C_1*w50;                              EM_S[INDEX2(1,2,4)]+=   C_0*w18 -   C_1*w19;
2133                              const double tmp7_1 = C_0*w46;                              EM_S[INDEX2(1,3,4)]+=  -C_0*w18 - 2*C_1*w19;
2134                              EM_S[INDEX2(0,0,4)]+=tmp4_1 + tmp5_1;                              EM_S[INDEX2(2,0,4)]+=   C_0*w18 + 2*C_1*w19;
2135                              EM_S[INDEX2(1,0,4)]+=tmp1_1 + tmp4_1;                              EM_S[INDEX2(2,1,4)]+=  -C_0*w18 +   C_1*w19;
2136                              EM_S[INDEX2(2,0,4)]+=tmp3_1 + tmp5_1;                              EM_S[INDEX2(2,2,4)]+= 2*C_0*w18 - 2*C_1*w19;
2137                              EM_S[INDEX2(3,0,4)]+=tmp1_1 + tmp3_1;                              EM_S[INDEX2(2,3,4)]+=-2*C_0*w18 -   C_1*w19;
2138                              EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1;                              EM_S[INDEX2(3,0,4)]+=   C_0*w18 +   C_1*w19;
2139                              EM_S[INDEX2(1,1,4)]+=tmp0_1 + tmp5_1;                              EM_S[INDEX2(3,1,4)]+=  -C_0*w18 + 2*C_1*w19;
2140                              EM_S[INDEX2(2,1,4)]+=tmp1_1 + tmp7_1;                              EM_S[INDEX2(3,2,4)]+= 2*C_0*w18 -   C_1*w19;
2141                              EM_S[INDEX2(3,1,4)]+=tmp5_1 + tmp7_1;                              EM_S[INDEX2(3,3,4)]+=-2*C_0*w18 - 2*C_1*w19;
                             EM_S[INDEX2(0,2,4)]+=tmp3_1 + tmp6_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp2_1 + tmp3_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp4_1 + tmp6_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp2_1 + tmp4_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp2_1 + tmp7_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp6_1 + tmp7_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp2_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp0_1 + tmp6_1;  
2142                          }                          }
2143                      }                      }
2144                      ///////////////                      ///////////////
# Line 2011  void Rectangle::assemblePDESingle(Paso_S Line 2152  void Rectangle::assemblePDESingle(Paso_S
2152                              const double D_1 = D_p[1];                              const double D_1 = D_p[1];
2153                              const double D_2 = D_p[2];                              const double D_2 = D_p[2];
2154                              const double D_3 = D_p[3];                              const double D_3 = D_p[3];
2155                              const double tmp0_0 = D_0 + D_1;                              const double tmp0 = w21*(D_2 + D_3);
2156                              const double tmp1_0 = D_2 + D_3;                              const double tmp1 = w20*(D_0 + D_1);
2157                              const double tmp2_0 = D_0 + D_1 + D_2 + D_3;                              const double tmp2 = w22*(D_0 + D_1 + D_2 + D_3);
2158                              const double tmp3_0 = D_1 + D_2;                              const double tmp3 = w21*(D_0 + D_1);
2159                              const double tmp4_0 = D_1 + D_3;                              const double tmp4 = w20*(D_2 + D_3);
2160                              const double tmp5_0 = D_0 + D_2;                              const double tmp5 = w22*(D_1 + D_2);
2161                              const double tmp6_0 = D_0 + D_3;                              const double tmp6 = w21*(D_0 + D_2);
2162                              const double tmp0_1 = tmp0_0*w52;                              const double tmp7 = w20*(D_1 + D_3);
2163                              const double tmp1_1 = tmp1_0*w53;                              const double tmp8 = w21*(D_1 + D_3);
2164                              const double tmp2_1 = tmp2_0*w54;                              const double tmp9 = w20*(D_0 + D_2);
2165                              const double tmp3_1 = tmp1_0*w52;                              const double tmp10 = w22*(D_0 + D_3);
2166                              const double tmp4_1 = tmp0_0*w53;                              EM_S[INDEX2(0,0,4)]+=D_0*w23 + D_3*w24 + tmp5;
2167                              const double tmp5_1 = tmp3_0*w54;                              EM_S[INDEX2(0,1,4)]+=tmp0 + tmp1;
2168                              const double tmp6_1 = D_0*w55;                              EM_S[INDEX2(0,2,4)]+=tmp8 + tmp9;
2169                              const double tmp7_1 = D_3*w56;                              EM_S[INDEX2(0,3,4)]+=tmp2;
2170                              const double tmp8_1 = D_3*w55;                              EM_S[INDEX2(1,0,4)]+=tmp0 + tmp1;
2171                              const double tmp9_1 = D_0*w56;                              EM_S[INDEX2(1,1,4)]+=D_1*w23 + D_2*w24 + tmp10;
2172                              const double tmp10_1 = tmp4_0*w52;                              EM_S[INDEX2(1,2,4)]+=tmp2;
2173                              const double tmp11_1 = tmp5_0*w53;                              EM_S[INDEX2(1,3,4)]+=tmp6 + tmp7;
2174                              const double tmp12_1 = tmp5_0*w52;                              EM_S[INDEX2(2,0,4)]+=tmp8 + tmp9;
2175                              const double tmp13_1 = tmp4_0*w53;                              EM_S[INDEX2(2,1,4)]+=tmp2;
2176                              const double tmp14_1 = tmp6_0*w54;                              EM_S[INDEX2(2,2,4)]+=D_1*w24 + D_2*w23 + tmp10;
2177                              const double tmp15_1 = D_2*w55;                              EM_S[INDEX2(2,3,4)]+=tmp3 + tmp4;
2178                              const double tmp16_1 = D_1*w56;                              EM_S[INDEX2(3,0,4)]+=tmp2;
2179                              const double tmp17_1 = D_1*w55;                              EM_S[INDEX2(3,1,4)]+=tmp6 + tmp7;
2180                              const double tmp18_1 = D_2*w56;                              EM_S[INDEX2(3,2,4)]+=tmp3 + tmp4;
2181                              EM_S[INDEX2(0,0,4)]+=tmp5_1 + tmp6_1 + tmp7_1;                              EM_S[INDEX2(3,3,4)]+=D_0*w24 + D_3*w23 + tmp5;
                             EM_S[INDEX2(1,0,4)]+=tmp0_1 + tmp1_1;  
                             EM_S[INDEX2(2,0,4)]+=tmp12_1 + tmp13_1;  
                             EM_S[INDEX2(3,0,4)]+=tmp2_1;  
                             EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1;  
                             EM_S[INDEX2(1,1,4)]+=tmp14_1 + tmp17_1 + tmp18_1;  
                             EM_S[INDEX2(2,1,4)]+=tmp2_1;  
                             EM_S[INDEX2(3,1,4)]+=tmp10_1 + tmp11_1;  
                             EM_S[INDEX2(0,2,4)]+=tmp12_1 + tmp13_1;  
                             EM_S[INDEX2(1,2,4)]+=tmp2_1;  
                             EM_S[INDEX2(2,2,4)]+=tmp14_1 + tmp15_1 + tmp16_1;  
                             EM_S[INDEX2(3,2,4)]+=tmp3_1 + tmp4_1;  
                             EM_S[INDEX2(0,3,4)]+=tmp2_1;  
                             EM_S[INDEX2(1,3,4)]+=tmp10_1 + tmp11_1;  
                             EM_S[INDEX2(2,3,4)]+=tmp3_1 + tmp4_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp5_1 + tmp8_1 + tmp9_1;  
2182                          } else { // constant data                          } else { // constant data
2183                              const double tmp0_1 = D_p[0]*w57;                              const double D_0 = D_p[0];
2184                              const double tmp1_1 = D_p[0]*w58;                              EM_S[INDEX2(0,0,4)]+=16*D_0*w22;
2185                              const double tmp2_1 = D_p[0]*w59;                              EM_S[INDEX2(0,1,4)]+=8*D_0*w22;
2186                              EM_S[INDEX2(0,0,4)]+=tmp2_1;                              EM_S[INDEX2(0,2,4)]+=8*D_0*w22;
2187                              EM_S[INDEX2(1,0,4)]+=tmp0_1;                              EM_S[INDEX2(0,3,4)]+=4*D_0*w22;
2188                              EM_S[INDEX2(2,0,4)]+=tmp0_1;                              EM_S[INDEX2(1,0,4)]+=8*D_0*w22;
2189                              EM_S[INDEX2(3,0,4)]+=tmp1_1;                              EM_S[INDEX2(1,1,4)]+=16*D_0*w22;
2190                              EM_S[INDEX2(0,1,4)]+=tmp0_1;                              EM_S[INDEX2(1,2,4)]+=4*D_0*w22;
2191                              EM_S[INDEX2(1,1,4)]+=tmp2_1;                              EM_S[INDEX2(1,3,4)]+=8*D_0*w22;
2192                              EM_S[INDEX2(2,1,4)]+=tmp1_1;                              EM_S[INDEX2(2,0,4)]+=8*D_0*w22;
2193                              EM_S[INDEX2(3,1,4)]+=tmp0_1;                              EM_S[INDEX2(2,1,4)]+=4*D_0*w22;
2194                              EM_S[INDEX2(0,2,4)]+=tmp0_1;                              EM_S[INDEX2(2,2,4)]+=16*D_0*w22;
2195                              EM_S[INDEX2(1,2,4)]+=tmp1_1;                              EM_S[INDEX2(2,3,4)]+=8*D_0*w22;
2196                              EM_S[INDEX2(2,2,4)]+=tmp2_1;                              EM_S[INDEX2(3,0,4)]+=4*D_0*w22;
2197                              EM_S[INDEX2(3,2,4)]+=tmp0_1;                              EM_S[INDEX2(3,1,4)]+=8*D_0*w22;
2198                              EM_S[INDEX2(0,3,4)]+=tmp1_1;                              EM_S[INDEX2(3,2,4)]+=8*D_0*w22;
2199                              EM_S[INDEX2(1,3,4)]+=tmp0_1;                              EM_S[INDEX2(3,3,4)]+=16*D_0*w22;
                             EM_S[INDEX2(2,3,4)]+=tmp0_1;  
                             EM_S[INDEX2(3,3,4)]+=tmp2_1;  
2200                          }                          }
2201                      }                      }
2202                      ///////////////                      ///////////////
# Line 2090  void Rectangle::assemblePDESingle(Paso_S Line 2214  void Rectangle::assemblePDESingle(Paso_S
2214                              const double X_1_2 = X_p[INDEX2(1,2,2)];                              const double X_1_2 = X_p[INDEX2(1,2,2)];
2215                              const double X_0_3 = X_p[INDEX2(0,3,2)];                              const double X_0_3 = X_p[INDEX2(0,3,2)];
2216                              const double X_1_3 = X_p[INDEX2(1,3,2)];                              const double X_1_3 = X_p[INDEX2(1,3,2)];
2217                              const double tmp0_0 = X_0_2 + X_0_3;                              const double tmp0 = 6*w15*(X_0_2 + X_0_3);
2218                              const double tmp1_0 = X_1_1 + X_1_3;                              const double tmp1 = 6*w10*(X_0_0 + X_0_1);
2219                              const double tmp2_0 = X_1_0 + X_1_2;                              const double tmp2 = 6*w11*(X_1_0 + X_1_2);
2220                              const double tmp3_0 = X_0_0 + X_0_1;                              const double tmp3 = 6*w14*(X_1_1 + X_1_3);
2221                              const double tmp0_1 = tmp0_0*w63;                              const double tmp4 = 6*w11*(X_1_1 + X_1_3);
2222                              const double tmp1_1 = tmp1_0*w62;                              const double tmp5 = w25*(X_0_0 + X_0_1);
2223                              const double tmp2_1 = tmp2_0*w61;                              const double tmp6 = w26*(X_0_2 + X_0_3);
2224                              const double tmp3_1 = tmp3_0*w60;                              const double tmp7 = 6*w14*(X_1_0 + X_1_2);
2225                              const double tmp4_1 = tmp0_0*w65;                              const double tmp8 = w27*(X_1_0 + X_1_2);
2226                              const double tmp5_1 = tmp3_0*w64;                              const double tmp9 = w28*(X_1_1 + X_1_3);
2227                              const double tmp6_1 = tmp2_0*w62;                              const double tmp10 = w25*(-X_0_2 - X_0_3);
2228                              const double tmp7_1 = tmp1_0*w61;                              const double tmp11 = w26*(-X_0_0 - X_0_1);
2229                              const double tmp8_1 = tmp2_0*w66;                              const double tmp12 = w27*(X_1_1 + X_1_3);
2230                              const double tmp9_1 = tmp3_0*w63;                              const double tmp13 = w28*(X_1_0 + X_1_2);
2231                              const double tmp10_1 = tmp0_0*w60;                              const double tmp14 = w25*(X_0_2 + X_0_3);
2232                              const double tmp11_1 = tmp1_0*w67;                              const double tmp15 = w26*(X_0_0 + X_0_1);
2233                              const double tmp12_1 = tmp1_0*w66;                              EM_F[0]+=tmp0 + tmp1 + tmp2 + tmp3;
2234                              const double tmp13_1 = tmp3_0*w65;                              EM_F[1]+=tmp4 + tmp5 + tmp6 + tmp7;
2235                              const double tmp14_1 = tmp0_0*w64;                              EM_F[2]+=tmp10 + tmp11 + tmp8 + tmp9;
2236                              const double tmp15_1 = tmp2_0*w67;                              EM_F[3]+=tmp12 + tmp13 + tmp14 + tmp15;
                             EM_F[0]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;  
                             EM_F[1]+=tmp4_1 + tmp5_1 + tmp6_1 + tmp7_1;  
                             EM_F[2]+=tmp10_1 + tmp11_1 + tmp8_1 + tmp9_1;  
                             EM_F[3]+=tmp12_1 + tmp13_1 + tmp14_1 + tmp15_1;  
2237                          } else { // constant data                          } else { // constant data
2238                              const double tmp0_1 = X_p[1]*w69;                              const double X_0 = X_p[0];
2239                              const double tmp1_1 = X_p[0]*w68;                              const double X_1 = X_p[1];
2240                              const double tmp2_1 = X_p[0]*w70;                              EM_F[0]+= 6*X_0*w18 + 6*X_1*w19;
2241                              const double tmp3_1 = X_p[1]*w71;                              EM_F[1]+=-6*X_0*w18 + 6*X_1*w19;
2242                              EM_F[0]+=tmp0_1 + tmp1_1;                              EM_F[2]+= 6*X_0*w18 - 6*X_1*w19;
2243                              EM_F[1]+=tmp0_1 + tmp2_1;                              EM_F[3]+=-6*X_0*w18 - 6*X_1*w19;
                             EM_F[2]+=tmp1_1 + tmp3_1;  
                             EM_F[3]+=tmp2_1 + tmp3_1;  
2244                          }                          }
2245                      }                      }
2246                      ///////////////                      ///////////////
# Line 2136  void Rectangle::assemblePDESingle(Paso_S Line 2254  void Rectangle::assemblePDESingle(Paso_S
2254                              const double Y_1 = Y_p[1];                              const double Y_1 = Y_p[1];
2255                              const double Y_2 = Y_p[2];                              const double Y_2 = Y_p[2];
2256                              const double Y_3 = Y_p[3];                              const double Y_3 = Y_p[3];
2257                              const double tmp0_0 = Y_1 + Y_2;                              const double tmp0 = 6*w22*(Y_1 + Y_2);
2258                              const double tmp1_0 = Y_0 + Y_3;                              const double tmp1 = 6*w22*(Y_0 + Y_3);
2259                              const double tmp0_1 = Y_0*w72;                              EM_F[0]+=6*Y_0*w20 + 6*Y_3*w21 + tmp0;
2260                              const double tmp1_1 = tmp0_0*w73;                              EM_F[1]+=6*Y_1*w20 + 6*Y_2*w21 + tmp1;
2261                              const double tmp2_1 = Y_3*w74;                              EM_F[2]+=6*Y_1*w21 + 6*Y_2*w20 + tmp1;
2262                              const double tmp3_1 = Y_1*w72;                              EM_F[3]+=6*Y_0*w21 + 6*Y_3*w20 + tmp0;
                             const double tmp4_1 = tmp1_0*w73;  
                             const double tmp5_1 = Y_2*w74;  
                             const double tmp6_1 = Y_2*w72;  
                             const double tmp7_1 = Y_1*w74;  
                             const double tmp8_1 = Y_3*w72;  
                             const double tmp9_1 = Y_0*w74;  
                             EM_F[0]+=tmp0_1 + tmp1_1 + tmp2_1;  
                             EM_F[1]+=tmp3_1 + tmp4_1 + tmp5_1;  
                             EM_F[2]+=tmp4_1 + tmp6_1 + tmp7_1;  
                             EM_F[3]+=tmp1_1 + tmp8_1 + tmp9_1;  
2263                          } else { // constant data                          } else { // constant data
2264                              const double tmp0_1 = Y_p[0]*w75;                              EM_F[0]+=36*Y_p[0]*w22;
2265                              EM_F[0]+=tmp0_1;                              EM_F[1]+=36*Y_p[0]*w22;
2266                              EM_F[1]+=tmp0_1;                              EM_F[2]+=36*Y_p[0]*w22;
2267                              EM_F[2]+=tmp0_1;                              EM_F[3]+=36*Y_p[0]*w22;
                             EM_F[3]+=tmp0_1;  
2268                          }                          }
2269                      }                      }
2270    
2271                      // add to matrix (if add_EM_S) and RHS (if add_EM_F)                      // add to matrix (if add_EM_S) and RHS (if add_EM_F)
2272                      const index_t firstNode=m_N0*k1+k0;                      const index_t firstNode=m_NN[0]*k1+k0;
2273                      addToMatrixAndRHS(mat, rhs, EM_S, EM_F, add_EM_S, add_EM_F, firstNode);                      addToMatrixAndRHS(mat, rhs, EM_S, EM_F, add_EM_S, add_EM_F, firstNode);
2274                  } // end k0 loop                  } // end k0 loop
2275              } // end k1 loop              } // end k1 loop
# Line 2176  void Rectangle::assemblePDESingleReduced Line 2283  void Rectangle::assemblePDESingleReduced
2283          const escript::Data& C, const escript::Data& D,          const escript::Data& C, const escript::Data& D,
2284          const escript::Data& X, const escript::Data& Y) const          const escript::Data& X, const escript::Data& Y) const
2285  {  {
2286      const double h0 = m_l0/m_gNE0;      const double w0 = 1./4;
2287      const double h1 = m_l1/m_gNE1;      const double w1 = m_dx[0]/8;
2288      const double w0 = -.25*h1/h0;      const double w2 = m_dx[1]/8;
2289      const double w1 = .25;      const double w3 = m_dx[0]*m_dx[1]/16;
2290      const double w2 = -.25;      const double w4 = m_dx[0]/(4*m_dx[1]);
2291      const double w3 = .25*h0/h1;      const double w5 = m_dx[1]/(4*m_dx[0]);
     const double w4 = -.25*h0/h1;  
     const double w5 = .25*h1/h0;  
     const double w6 = -.125*h1;  
     const double w7 = -.125*h0;  
     const double w8 = .125*h1;  
     const double w9 = .125*h0;  
     const double w10 = .0625*h0*h1;  
     const double w11 = -.5*h1;  
     const double w12 = -.5*h0;  
     const double w13 = .5*h1;  
     const double w14 = .5*h0;  
     const double w15 = .25*h0*h1;  
2292    
2293      rhs.requireWrite();      rhs.requireWrite();
2294  #pragma omp parallel  #pragma omp parallel
2295      {      {
2296          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring
2297  #pragma omp for  #pragma omp for
2298              for (index_t k1=k1_0; k1<m_NE1; k1+=2) {              for (index_t k1=k1_0; k1<m_NE[1]; k1+=2) {
2299                  for (index_t k0=0; k0<m_NE0; ++k0)  {                  for (index_t k0=0; k0<m_NE[0]; ++k0)  {
2300                      bool add_EM_S=false;                      bool add_EM_S=false;
2301                      bool add_EM_F=false;                      bool add_EM_F=false;
2302                      vector<double> EM_S(4*4, 0);                      vector<double> EM_S(4*4, 0);
2303                      vector<double> EM_F(4, 0);                      vector<double> EM_F(4, 0);
2304                      const index_t e = k0 + m_NE0*k1;                      const index_t e = k0 + m_NE[0]*k1;
2305                      ///////////////                      ///////////////
2306                      // process A //                      // process A //
2307                      ///////////////                      ///////////////
# Line 2217  void Rectangle::assemblePDESingleReduced Line 2312  void Rectangle::assemblePDESingleReduced
2312                          const double A_10 = A_p[INDEX2(1,0,2)];                          const double A_10 = A_p[INDEX2(1,0,2)];
2313                          const double A_01 = A_p[INDEX2(0,1,2)];                          const double A_01 = A_p[INDEX2(0,1,2)];
2314                          const double A_11 = A_p[INDEX2(1,1,2)];                          const double A_11 = A_p[INDEX2(1,1,2)];
2315                          const double tmp0_0 = A_01 + A_10;                          const double tmp0 = (A_01 + A_10)*w0;
2316                          const double tmp0_1 = A_11*w3;                          const double tmp1 = A_00*w5;
2317                          const double tmp1_1 = A_00*w0;                          const double tmp2 = A_01*w0;
2318                          const double tmp2_1 = A_01*w1;                          const double tmp3 = A_10*w0;
2319                          const double tmp3_1 = A_10*w2;                          const double tmp4 = A_11*w4;
2320                          const double tmp4_1 = tmp0_0*w1;                          EM_S[INDEX2(0,0,4)]+=tmp4 + tmp0 + tmp1;
2321                          const double tmp5_1 = A_11*w4;                          EM_S[INDEX2(1,0,4)]+=tmp4 - tmp1 + tmp3 - tmp2;
2322                          const double tmp6_1 = A_00*w5;                          EM_S[INDEX2(2,0,4)]+=tmp2 - tmp3 - tmp4 + tmp1;
2323                          const double tmp7_1 = tmp0_0*w2;                          EM_S[INDEX2(3,0,4)]+=-tmp1 - tmp4 - tmp0;
2324                          const double tmp8_1 = A_10*w1;                          EM_S[INDEX2(0,1,4)]+=tmp4 - tmp1 + tmp2 - tmp3;
2325                          const double tmp9_1 = A_01*w2;                          EM_S[INDEX2(1,1,4)]+=tmp4 + tmp1 - tmp0;
2326                          EM_S[INDEX2(0,0,4)]+=tmp0_1 + tmp4_1 + tmp6_1;                          EM_S[INDEX2(2,1,4)]+=-tmp1 + tmp0 - tmp4;
2327                          EM_S[INDEX2(1,0,4)]+=tmp0_1 + tmp1_1 + tmp8_1 + tmp9_1;                          EM_S[INDEX2(3,1,4)]+=-tmp4 + tmp1 + tmp3 - tmp2;
2328                          EM_S[INDEX2(2,0,4)]+=tmp2_1 + tmp3_1 + tmp5_1 + tmp6_1;                          EM_S[INDEX2(0,2,4)]+=-tmp4 + tmp1 + tmp3 - tmp2;
2329                          EM_S[INDEX2(3,0,4)]+=tmp1_1 + tmp5_1 + tmp7_1;                          EM_S[INDEX2(1,2,4)]+=-tmp1 + tmp0 - tmp4;
2330                          EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;                          EM_S[INDEX2(2,2,4)]+=tmp4 + tmp1 - tmp0;
2331                          EM_S[INDEX2(1,1,4)]+=tmp0_1 + tmp6_1 + tmp7_1;                          EM_S[INDEX2(3,2,4)]+=tmp4 - tmp1 + tmp2 - tmp3;
2332                          EM_S[INDEX2(2,1,4)]+=tmp1_1 + tmp4_1 + tmp5_1;                          EM_S[INDEX2(0,3,4)]+=-tmp1 - tmp4 - tmp0;
2333                          EM_S[INDEX2(3,1,4)]+=tmp5_1 + tmp6_1 + tmp8_1 + tmp9_1;                          EM_S[INDEX2(1,3,4)]+=tmp2 - tmp3 - tmp4 + tmp1;
2334                          EM_S[INDEX2(0,2,4)]+=tmp5_1 + tmp6_1 + tmp8_1 + tmp9_1;                          EM_S[INDEX2(2,3,4)]+=tmp4 - tmp1 + tmp3 - tmp2;
2335                          EM_S[INDEX2(1,2,4)]+=tmp1_1 + tmp4_1 + tmp5_1;                          EM_S[INDEX2(3,3,4)]+=tmp4 + tmp0 + tmp1;
                         EM_S[INDEX2(2,2,4)]+=tmp0_1 + tmp6_1 + tmp7_1;  
                         EM_S[INDEX2(3,2,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;  
                         EM_S[INDEX2(0,3,4)]+=tmp1_1 + tmp5_1 + tmp7_1;  
                         EM_S[INDEX2(1,3,4)]+=tmp2_1 + tmp3_1 + tmp5_1 + tmp6_1;  
                         EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp1_1 + tmp8_1 + tmp9_1;  
                         EM_S[INDEX2(3,3,4)]+=tmp0_1 + tmp4_1 + tmp6_1;  
2336                      }                      }
2337                      ///////////////                      ///////////////
2338                      // process B //                      // process B //
# Line 2251  void Rectangle::assemblePDESingleReduced Line 2340  void Rectangle::assemblePDESingleReduced
2340                      if (!B.isEmpty()) {                      if (!B.isEmpty()) {
2341                          add_EM_S=true;                          add_EM_S=true;
2342                          const double* B_p=const_cast<escript::Data*>(&B)->getSampleDataRO(e);                          const double* B_p=const_cast<escript::Data*>(&B)->getSampleDataRO(e);
2343                          const double tmp2_1 = B_p[0]*w8;                          const double tmp0 = B_p[0]*w2;
2344                          const double tmp0_1 = B_p[0]*w6;                          const double tmp1 = B_p[1]*w1;
2345                          const double tmp3_1 = B_p[1]*w9;                          EM_S[INDEX2(0,0,4)]+=-tmp0 - tmp1;
2346                          const double tmp1_1 = B_p[1]*w7;                          EM_S[INDEX2(1,0,4)]+= tmp0 - tmp1;
2347                          EM_S[INDEX2(0,0,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(2,0,4)]+= tmp1 - tmp0;
2348                          EM_S[INDEX2(1,0,4)]+=tmp1_1 + tmp2_1;                          EM_S[INDEX2(3,0,4)]+= tmp0 + tmp1;
2349                          EM_S[INDEX2(2,0,4)]+=tmp0_1 + tmp3_1;                          EM_S[INDEX2(0,1,4)]+=-tmp0 - tmp1;
2350                          EM_S[INDEX2(3,0,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(1,1,4)]+= tmp0 - tmp1;
2351                          EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(2,1,4)]+= tmp1 - tmp0;
2352                          EM_S[INDEX2(1,1,4)]+=tmp1_1 + tmp2_1;                          EM_S[INDEX2(3,1,4)]+= tmp0 + tmp1;
2353                          EM_S[INDEX2(2,1,4)]+=tmp0_1 + tmp3_1;                          EM_S[INDEX2(0,2,4)]+=-tmp0 - tmp1;
2354                          EM_S[INDEX2(3,1,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(1,2,4)]+= tmp0 - tmp1;
2355                          EM_S[INDEX2(0,2,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(2,2,4)]+= tmp1 - tmp0;
2356                          EM_S[INDEX2(1,2,4)]+=tmp1_1 + tmp2_1;                          EM_S[INDEX2(3,2,4)]+= tmp0 + tmp1;
2357                          EM_S[INDEX2(2,2,4)]+=tmp0_1 + tmp3_1;                          EM_S[INDEX2(0,3,4)]+=-tmp0 - tmp1;
2358                          EM_S[INDEX2(3,2,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(1,3,4)]+= tmp0 - tmp1;
2359                          EM_S[INDEX2(0,3,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(2,3,4)]+= tmp1 - tmp0;
2360                          EM_S[INDEX2(1,3,4)]+=tmp1_1 + tmp2_1;                          EM_S[INDEX2(3,3,4)]+= tmp0 + tmp1;
                         EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp3_1;  
                         EM_S[INDEX2(3,3,4)]+=tmp2_1 + tmp3_1;  
2361                      }                      }
2362                      ///////////////                      ///////////////
2363                      // process C //                      // process C //
# Line 2278  void Rectangle::assemblePDESingleReduced Line 2365  void Rectangle::assemblePDESingleReduced
2365                      if (!C.isEmpty()) {                      if (!C.isEmpty()) {
2366                          add_EM_S=true;                          add_EM_S=true;
2367                          const double* C_p=const_cast<escript::Data*>(&C)->getSampleDataRO(e);                          const double* C_p=const_cast<escript::Data*>(&C)->getSampleDataRO(e);
2368                          const double tmp1_1 = C_p[1]*w7;                          const double tmp0 = C_p[0]*w2;
2369                          const double tmp0_1 = C_p[0]*w8;                          const double tmp1 = C_p[1]*w1;
2370                          const double tmp3_1 = C_p[0]*w6;                          EM_S[INDEX2(0,0,4)]+=-tmp1 - tmp0;
2371                          const double tmp2_1 = C_p[1]*w9;                          EM_S[INDEX2(1,0,4)]+=-tmp1 - tmp0;
2372                          EM_S[INDEX2(0,0,4)]+=tmp1_1 + tmp3_1;                          EM_S[INDEX2(2,0,4)]+=-tmp1 - tmp0;
2373                          EM_S[INDEX2(1,0,4)]+=tmp1_1 + tmp3_1;                          EM_S[INDEX2(3,0,4)]+=-tmp1 - tmp0;
2374                          EM_S[INDEX2(2,0,4)]+=tmp1_1 + tmp3_1;                          EM_S[INDEX2(0,1,4)]+= tmp0 - tmp1;
2375                          EM_S[INDEX2(3,0,4)]+=tmp1_1 + tmp3_1;                          EM_S[INDEX2(1,1,4)]+= tmp0 - tmp1;
2376                          EM_S[INDEX2(0,1,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(2,1,4)]+= tmp0 - tmp1;
2377                          EM_S[INDEX2(1,1,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(3,1,4)]+= tmp0 - tmp1;
2378                          EM_S[INDEX2(2,1,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(0,2,4)]+= tmp1 - tmp0;
2379                          EM_S[INDEX2(3,1,4)]+=tmp0_1 + tmp1_1;                          EM_S[INDEX2(1,2,4)]+= tmp1 - tmp0;
2380                          EM_S[INDEX2(0,2,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(2,2,4)]+= tmp1 - tmp0;
2381                          EM_S[INDEX2(1,2,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(3,2,4)]+= tmp1 - tmp0;
2382                          EM_S[INDEX2(2,2,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(0,3,4)]+= tmp0 + tmp1;
2383                          EM_S[INDEX2(3,2,4)]+=tmp2_1 + tmp3_1;                          EM_S[INDEX2(1,3,4)]+= tmp0 + tmp1;
2384                          EM_S[INDEX2(0,3,4)]+=tmp0_1 + tmp2_1;                          EM_S[INDEX2(2,3,4)]+= tmp0 + tmp1;
2385                          EM_S[INDEX2(1,3,4)]+=tmp0_1 + tmp2_1;                          EM_S[INDEX2(3,3,4)]+= tmp0 + tmp1;
                         EM_S[INDEX2(2,3,4)]+=tmp0_1 + tmp2_1;  
                         EM_S[INDEX2(3,3,4)]+=tmp0_1 + tmp2_1;  
2386                      }                      }
2387                      ///////////////                      ///////////////
2388                      // process D //                      // process D //
# Line 2305  void Rectangle::assemblePDESingleReduced Line 2390  void Rectangle::assemblePDESingleReduced
2390                      if (!D.isEmpty()) {                      if (!D.isEmpty()) {
2391                          add_EM_S=true;                          add_EM_S=true;
2392                          const double* D_p=const_cast<escript::Data*>(&D)->getSampleDataRO(e);                          const double* D_p=const_cast<escript::Data*>(&D)->getSampleDataRO(e);
2393                          const double tmp0_1 = D_p[0]*w10;                          EM_S[INDEX2(0,0,4)]+=D_p[0]*w3;
2394                          EM_S[INDEX2(0,0,4)]+=tmp0_1;                          EM_S[INDEX2(1,0,4)]+=D_p[0]*w3;
2395                          EM_S[INDEX2(1,0,4)]+=tmp0_1;                          EM_S[INDEX2(2,0,4)]+=D_p[0]*w3;
2396                          EM_S[INDEX2(2,0,4)]+=tmp0_1;                          EM_S[INDEX2(3,0,4)]+=D_p[0]*w3;
2397                          EM_S[INDEX2(3,0,4)]+=tmp0_1;                          EM_S[INDEX2(0,1,4)]+=D_p[0]*w3;
2398                          EM_S[INDEX2(0,1,4)]+=tmp0_1;                          EM_S[INDEX2(1,1,4)]+=D_p[0]*w3;
2399                          EM_S[INDEX2(1,1,4)]+=tmp0_1;                          EM_S[INDEX2(2,1,4)]+=D_p[0]*w3;
2400                          EM_S[INDEX2(2,1,4)]+=tmp0_1;                          EM_S[INDEX2(3,1,4)]+=D_p[0]*w3;
2401                          EM_S[INDEX2(3,1,4)]+=tmp0_1;                          EM_S[INDEX2(0,2,4)]+=D_p[0]*w3;
2402                          EM_S[INDEX2(0,2,4)]+=tmp0_1;                          EM_S[INDEX2(1,2,4)]+=D_p[0]*w3;
2403                          EM_S[INDEX2(1,2,4)]+=tmp0_1;                          EM_S[INDEX2(2,2,4)]+=D_p[0]*w3;
2404                          EM_S[INDEX2(2,2,4)]+=tmp0_1;                          EM_S[INDEX2(3,2,4)]+=D_p[0]*w3;
2405                          EM_S[INDEX2(3,2,4)]+=tmp0_1;                          EM_S[INDEX2(0,3,4)]+=D_p[0]*w3;
2406                          EM_S[INDEX2(0,3,4)]+=tmp0_1;                          EM_S[INDEX2(1,3,4)]+=D_p[0]*w3;
2407                          EM_S[INDEX2(1,3,4)]+=tmp0_1;                          EM_S[INDEX2(2,3,4)]+=D_p[0]*w3;
2408                          EM_S[INDEX2(2,3,4)]+=tmp0_1;                          EM_S[INDEX2(3,3,4)]+=D_p[0]*w3;
                         EM_S[INDEX2(3,3,4)]+=tmp0_1;  
2409                      }                      }
2410                      ///////////////                      ///////////////
2411                      // process X //                      // process X //
# Line 2329  void Rectangle::assemblePDESingleReduced Line 2413  void Rectangle::assemblePDESingleReduced
2413                      if (!X.isEmpty()) {                      if (!X.isEmpty()) {
2414                          add_EM_F=true;                          add_EM_F=true;
2415                          const double* X_p=const_cast<escript::Data*>(&X)->getSampleDataRO(e);                          const double* X_p=const_cast<escript::Data*>(&X)->getSampleDataRO(e);
2416                          const double tmp0_1 = X_p[0]*w11;                          const double wX0 = 4*X_p[0]*w2;
2417                          const double tmp2_1 = X_p[0]*w13;                          const double wX1 = 4*X_p[1]*w1;
2418                          const double tmp1_1 = X_p[1]*w12;                          EM_F[0]+=-wX0 - wX1;
2419                          const double tmp3_1 = X_p[1]*w14;                          EM_F[1]+=-wX1 + wX0;
2420                          EM_F[0]+=tmp0_1 + tmp1_1;                          EM_F[2]+=-wX0 + wX1;
2421                          EM_F[1]+=tmp1_1 + tmp2_1;                          EM_F[3]+= wX0 + wX1;
                         EM_F[2]+=tmp0_1 + tmp3_1;  
                         EM_F[3]+=tmp2_1 + tmp3_1;  
2422                      }                      }
2423                      ///////////////                      ///////////////
2424                      // process Y //                      // process Y //
# Line 2344  void Rectangle::assemblePDESingleReduced Line 2426  void Rectangle::assemblePDESingleReduced
2426                      if (!Y.isEmpty()) {                      if (!Y.isEmpty()) {
2427                          add_EM_F=true;                          add_EM_F=true;
2428                          const double* Y_p=const_cast<escript::Data*>(&Y)->getSampleDataRO(e);                          const double* Y_p=const_cast<escript::Data*>(&Y)->getSampleDataRO(e);
2429                          const double tmp0_1 = Y_p[0]*w15;                          EM_F[0]+=4*Y_p[0]*w3;
2430                          EM_F[0]+=tmp0_1;                          EM_F[1]+=4*Y_p[0]*w3;
2431                          EM_F[1]+=tmp0_1;                          EM_F[2]+=4*Y_p[0]*w3;
2432                          EM_F[2]+=tmp0_1;                          EM_F[3]+=4*Y_p[0]*w3;
                         EM_F[3]+=tmp0_1;  
2433                      }                      }
2434    
2435                      // add to matrix (if add_EM_S) and RHS (if add_EM_F)                      // add to matrix (if add_EM_S) and RHS (if add_EM_F)
2436                      const index_t firstNode=m_N0*k1+k0;                      const index_t firstNode=m_NN[0]*k1+k0;
2437                      addToMatrixAndRHS(mat, rhs, EM_S, EM_F, add_EM_S, add_EM_F, firstNode);                      addToMatrixAndRHS(mat, rhs, EM_S, EM_F, add_EM_S, add_EM_F, firstNode);
2438                  } // end k0 loop                  } // end k0 loop
2439              } // end k1 loop              } // end k1 loop
# Line 2366  void Rectangle::assemblePDESystem(Paso_S Line 2447  void Rectangle::assemblePDESystem(Paso_S
2447          const escript::Data& C, const escript::Data& D,          const escript::Data& C, const escript::Data& D,
2448          const escript::Data& X, const escript::Data& Y) const          const escript::Data& X, const escript::Data& Y) const
2449  {  {
     const double h0 = m_l0/m_gNE0;  
     const double h1 = m_l1/m_gNE1;  
2450      dim_t numEq, numComp;      dim_t numEq, numComp;
2451      if (!mat)      if (!mat)
2452          numEq=numComp=(rhs.isEmpty() ? 1 : rhs.getDataPointSize());          numEq=numComp=(rhs.isEmpty() ? 1 : rhs.getDataPointSize());
# Line 2375  void Rectangle::assemblePDESystem(Paso_S Line 2454  void Rectangle::assemblePDESystem(Paso_S
2454          numEq=mat->logical_row_block_size;          numEq=mat->logical_row_block_size;
2455          numComp=mat->logical_col_block_size;          numComp=mat->logical_col_block_size;
2456      }      }
2457        const double SQRT3 = 1.73205080756887719318;
2458      const double w0 = -0.1555021169820365539*h1/h0;      const double w1 = 1.0/24;
2459      const double w1 = 0.041666666666666666667;      const double w5 = -SQRT3/24 + 1.0/12;
2460      const double w2 = -0.15550211698203655390;      const double w2 = -SQRT3/24 - 1.0/12;
2461      const double w3 = 0.041666666666666666667*h0/h1;      const double w19 = -m_dx[0]/12;
2462      const double w4 = 0.15550211698203655390;      const double w11 = w19*(SQRT3 + 3)/12;
2463      const double w5 = -0.041666666666666666667;      const double w14 = w19*(-SQRT3 + 3)/12;
2464      const double w6 = -0.01116454968463011277*h1/h0;      const double w16 = w19*(5*SQRT3 + 9)/12;
2465      const double w7 = 0.011164549684630112770;      const double w17 = w19*(-5*SQRT3 + 9)/12;
2466      const double w8 = -0.011164549684630112770;      const double w27 = w19*(-SQRT3 - 3)/2;
2467      const double w9 = -0.041666666666666666667*h1/h0;      const double w28 = w19*(SQRT3 - 3)/2;
2468      const double w10 = -0.041666666666666666667*h0/h1;      const double w18 = -m_dx[1]/12;
2469      const double w11 = 0.1555021169820365539*h1/h0;      const double w10 = w18*(SQRT3 + 3)/12;
2470      const double w12 = 0.1555021169820365539*h0/h1;      const double w15 = w18*(-SQRT3 + 3)/12;
2471      const double w13 = 0.01116454968463011277*h0/h1;      const double w12 = w18*(5*SQRT3 + 9)/12;
2472      const double w14 = 0.01116454968463011277*h1/h0;      const double w13 = w18*(-5*SQRT3 + 9)/12;
2473      const double w15 = 0.041666666666666666667*h1/h0;      const double w25 = w18*(-SQRT3 - 3)/2;
2474      const double w16 = -0.01116454968463011277*h0/h1;      const double w26 = w18*(SQRT3 - 3)/2;
2475      const double w17 = -0.1555021169820365539*h0/h1;      const double w22 = m_dx[0]*m_dx[1]/144;
2476      const double w18 = -0.33333333333333333333*h1/h0;      const double w20 = w22*(SQRT3 + 2);
2477      const double w19 = 0.25000000000000000000;      const double w21 = w22*(-SQRT3 + 2);
2478      const double w20 = -0.25000000000000000000;      const double w23 = w22*(4*SQRT3 + 7);
2479      const double w21 = 0.16666666666666666667*h0/h1;      const double w24 = w22*(-4*SQRT3 + 7);
2480      const double w22 = -0.16666666666666666667*h1/h0;      const double w3 = m_dx[0]/(24*m_dx[1]);
2481      const double w23 = -0.16666666666666666667*h0/h1;      const double w7 = w3*(SQRT3 + 2);
2482      const double w24 = 0.33333333333333333333*h1/h0;      const double w8 = w3*(-SQRT3 + 2);
2483      const double w25 = 0.33333333333333333333*h0/h1;      const double w6 = -m_dx[1]/(24*m_dx[0]);
2484      const double w26 = 0.16666666666666666667*h1/h0;      const double w0 = w6*(SQRT3 + 2);
2485      const double w27 = -0.33333333333333333333*h0/h1;      const double w4 = w6*(-SQRT3 + 2);
     const double w28 = -0.032861463941450536761*h1;  
     const double w29 = -0.032861463941450536761*h0;  
     const double w30 = -0.12264065304058601714*h1;  
     const double w31 = -0.0023593469594139828636*h1;  
     const double w32 = -0.008805202725216129906*h0;  
     const double w33 = -0.008805202725216129906*h1;  
     const double w34 = 0.032861463941450536761*h1;  
     const double w35 = 0.008805202725216129906*h1;  
     const double w36 = 0.008805202725216129906*h0;  
     const double w37 = 0.0023593469594139828636*h1;  
     const double w38 = 0.12264065304058601714*h1;  
     const double w39 = 0.032861463941450536761*h0;  
     const double w40 = -0.12264065304058601714*h0;  
     const double w41 = -0.0023593469594139828636*h0;  
     const double w42 = 0.0023593469594139828636*h0;  
     const double w43 = 0.12264065304058601714*h0;  
     const double w44 = -0.16666666666666666667*h1;  
     const double w45 = -0.083333333333333333333*h0;  
     const double w46 = 0.083333333333333333333*h1;  
     const double w47 = 0.16666666666666666667*h1;  
     const double w48 = 0.083333333333333333333*h0;  
     const double w49 = -0.16666666666666666667*h0;  
     const double w50 = 0.16666666666666666667*h0;  
     const double w51 = -0.083333333333333333333*h1;  
     const double w52 = 0.025917019497006092316*h0*h1;  
     const double w53 = 0.0018607582807716854616*h0*h1;  
     const double w54 = 0.0069444444444444444444*h0*h1;  
     const double w55 = 0.09672363354357992482*h0*h1;  
     const double w56 = 0.00049858867864229740201*h0*h1;  
     const double w57 = 0.055555555555555555556*h0*h1;  
     const double w58 = 0.027777777777777777778*h0*h1;  
     const double w59 = 0.11111111111111111111*h0*h1;  
     const double w60 = -0.19716878364870322056*h1;  
     const double w61 = -0.19716878364870322056*h0;  
     const double w62 = -0.052831216351296779436*h0;  
     const double w63 = -0.052831216351296779436*h1;  
     const double w64 = 0.19716878364870322056*h1;  
     const double w65 = 0.052831216351296779436*h1;  
     const double w66 = 0.19716878364870322056*h0;  
     const double w67 = 0.052831216351296779436*h0;  
     const double w68 = -0.5*h1;  
     const double w69 = -0.5*h0;  
     const double w70 = 0.5*h1;  
     const double w71 = 0.5*h0;  
     const double w72 = 0.1555021169820365539*h0*h1;  
     const double w73 = 0.041666666666666666667*h0*h1;  
     const double w74 = 0.01116454968463011277*h0*h1;  
     const double w75 = 0.25*h0*h1;  
2486    
2487      rhs.requireWrite();      rhs.requireWrite();
2488  #pragma omp parallel  #pragma omp parallel
2489      {      {
2490          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring          for (index_t k1_0=0; k1_0<2; k1_0++) { // colouring
2491  #pragma omp for  #pragma omp for
2492              for (index_t k1=k1_0; k1<m_NE1; k1+=2) {              for (index_t k1=k1_0; k1<m_NE[1]; k1+=2) {
2493                  for (index_t k0=0; k0<m_NE0; ++k0)  {                  for (index_t k0=0; k0<m_NE[0]; ++k0)  {
2494                      bool add_EM_S=false;                      bool add_EM_S=false;
2495                      bool add_EM_F=false;                      bool add_EM_F=false;
2496                      vector<double> EM_S(4*4*numEq*numComp, 0);                      vector<double> EM_S(4*4*numEq*numComp, 0);
2497                      vector<double> EM_F(4*numEq, 0);                      vector<double> EM_F(4*numEq, 0);
2498                      const index_t e = k0 + m_NE0*k1;                      const index_t e = k0 + m_NE[0]*k1;
2499                      ///////////////                      ///////////////
2500                      // process A //                      // process A //
2501                      ///////////////                      ///////////////
2502                      if (!A.isEmpty()) {                      if (!A.isEmpty()) {
2503                          add_EM_S=true;                          add_EM_S = true;
2504                          const double* A_p=const_cast<escript::Data*>(&A)->getSampleDataRO(e);                          const double* A_p = const_cast<escript::Data*>(&A)->getSampleDataRO(e);
2505                          if (A.actsExpanded()) {                          if (A.actsExpanded()) {
2506                              for (index_t k=0; k<numEq; k++) {                              for (index_t k=0; k<numEq; k++) {
2507                                  for (index_t m=0; m<numComp; m++) {                                  for (index_t m=0; m<numComp; m++) {
2508                                      const double A_00_0 = A_p[INDEX5(k,0,m,0,0, numEq,2,numComp,2)];                                      const double A_00_0 = A_p[INDEX5(k,0,m,0,0,numEq,2,numComp,2)];
2509                                      const double A_01_0 = A_p[INDEX5(k,0,m,1,0, numEq,2,numComp,2)];                                      const double A_01_0 = A_p[INDEX5(k,0,m,1,0,numEq,2,numComp,2)];
2510                                      const double A_10_0 = A_p[INDEX5(k,1,m,0,0, numEq,2,numComp,2)];                                      const double A_10_0 = A_p[INDEX5(k,1,m,0,0,numEq,2,numComp,2)];
2511                                      const double A_11_0 = A_p[INDEX5(k,1,m,1,0, numEq,2,numComp,2)];                                      const double A_11_0 = A_p[INDEX5(k,1,m,1,0,numEq,2,numComp,2)];
2512                                      const double A_00_1 = A_p[INDEX5(k,0,m,0,1, numEq,2,numComp,2)];                                      const double A_00_1 = A_p[INDEX5(k,0,m,0,1,numEq,2,numComp,2)];
2513                                      const double A_01_1 = A_p[INDEX5(k,0,m,1,1, numEq,2,numComp,2)];                                      const double A_01_1 = A_p[INDEX5(k,0,m,1,1,numEq,2,numComp,2)];
2514                                      const double A_10_1 = A_p[INDEX5(k,1,m,0,1, numEq,2,numComp,2)];                                      const double A_10_1 = A_p[INDEX5(k,1,m,0,1,numEq,2,numComp,2)];
2515                                      const double A_11_1 = A_p[INDEX5(k,1,m,1,1, numEq,2,numComp,2)];                                      const double A_11_1 = A_p[INDEX5(k,1,m,1,1,numEq,2,numComp,2)];
2516                                      const double A_00_2 = A_p[INDEX5(k,0,m,0,2, numEq,2,numComp,2)];                                      const double A_00_2 = A_p[INDEX5(k,0,m,0,2,numEq,2,numComp,2)];
2517                                      const double A_01_2 = A_p[INDEX5(k,0,m,1,2, numEq,2,numComp,2)];                                      const double A_01_2 = A_p[INDEX5(k,0,m,1,2,numEq,2,numComp,2)];
2518                                      const double A_10_2 = A_p[INDEX5(k,1,m,0,2, numEq,2,numComp,2)];                                      const double A_10_2 = A_p[INDEX5(k,1,m,0,2,numEq,2,numComp,2)];
2519                                      const double A_11_2 = A_p[INDEX5(k,1,m,1,2, numEq,2,numComp,2)];                                      const double A_11_2 = A_p[INDEX5(k,1,m,1,2,numEq,2,numComp,2)];
2520                                      const double A_00_3 = A_p[INDEX5(k,0,m,0,3, numEq,2,numComp,2)];                                      const double A_00_3 = A_p[INDEX5(k,0,m,0,3,numEq,2,numComp,2)];
2521                                      const double A_01_3 = A_p[INDEX5(k,0,m,1,3, numEq,2,numComp,2)];                                      const double A_01_3 = A_p[INDEX5(k,0,m,1,3,numEq,2,numComp,2)];
2522                                      const double A_10_3 = A_p[INDEX5(k,1,m,0,3, numEq,2,numComp,2)];                                      const double A_10_3 = A_p[INDEX5(k,1,m,0,3,numEq,2,numComp,2)];
2523                                      const double A_11_3 = A_p[INDEX5(k,1,m,1,3, numEq,2,numComp,2)];                                      const double A_11_3 = A_p[INDEX5(k,1,m,1,3,numEq,2,numComp,2)];
2524                                      const double tmp0_0 = A_01_0 + A_01_3;                                      const double tmp0 = w3*(A_11_0 + A_11_1 + A_11_2 + A_11_3);
2525                                      const double tmp1_0 = A_00_0 + A_00_1;                                      const double tmp1 = w1*(A_01_0 + A_01_3 - A_10_1 - A_10_2);
2526                                      const double tmp2_0 = A_11_0 + A_11_1 + A_11_2 + A_11_3;                                      const double tmp2 = w4*(A_00_2 + A_00_3);
2527                                      const double tmp3_0 = A_00_2 + A_00_3;                                      const double tmp3 = w0*(A_00_0 + A_00_1);
2528                                      const double tmp4_0 = A_10_1 + A_10_2;                                      const double tmp4 = w5*(A_01_2 - A_10_3);
2529                                      const double tmp5_0 = A_00_0 + A_00_1 + A_00_2 + A_00_3;                                      const double tmp5 = w2*(-A_01_1 + A_10_0);
2530                                      const double tmp6_0 = A_01_3 + A_10_0;                                      const double tmp6 = w5*(A_01_3 + A_10_0);
2531                                      const double tmp7_0 = A_01_0 + A_10_3;                                      const double tmp7 = w3*(-A_11_0 - A_11_1 - A_11_2 - A_11_3);
2532                                      const double tmp8_0 = A_01_1 + A_01_2 + A_10_1 + A_10_2;                                      const double tmp8 = w6*(A_00_0 + A_00_1 + A_00_2 + A_00_3);
2533                                      const double tmp9_0 = A_01_0 + A_10_0;                                      const double tmp9 = w1*(A_01_1 + A_01_2 + A_10_1 + A_10_2);
2534                                      const double tmp10_0 = A_01_3 + A_10_3;                                      const double tmp10 = w2*(-A_01_0 - A_10_3);
2535                                      const double tmp11_0 = A_11_1 + A_11_3;                                      const double tmp11 = w4*(A_00_0 + A_00_1);
2536                                      const double tmp12_0 = A_11_0 + A_11_2;                                      const double tmp12 = w0*(A_00_2 + A_00_3);
2537                                      const double tmp13_0 = A_01_2 + A_10_1;                                      const double tmp13 = w5*(A_01_1 - A_10_0);
2538                                      const double tmp14_0 = A_01_0 + A_01_3 + A_10_0 + A_10_3;                                      const double tmp14 = w2*(-A_01_2 + A_10_3);
2539                                      const double tmp15_0 = A_01_1 + A_10_2;                                      const double tmp15 = w7*(A_11_0 + A_11_2);
2540                                      const double tmp16_0 = A_10_0 + A_10_3;                                      const double tmp16 = w4*(-A_00_2 - A_00_3);
2541                                      const double tmp17_0 = A_01_1 + A_01_2;                                      const double tmp17 = w0*(-A_00_0 - A_00_1);
2542                                      const double tmp18_0 = A_01_1 + A_10_1;                                      const double tmp18 = w5*(A_01_3 + A_10_3);
2543                                      const double tmp19_0 = A_01_2 + A_10_2;                                      const double tmp19 = w8*(A_11_1 + A_11_3);
2544                                      const double tmp0_1 = A_10_3*w8;                                      const double tmp20 = w2*(-A_01_0 - A_10_0);
2545                                      const double tmp1_1 = tmp0_0*w1;                                      const double tmp21 = w7*(A_11_1 + A_11_3);
2546                                      const double tmp2_1 = A_01_1*w4;                                      const double tmp22 = w4*(-A_00_0 - A_00_1);
2547                                      const double tmp3_1 = tmp1_0*w0;                                      const double tmp23 = w0*(-A_00_2 - A_00_3);
2548                                      const double tmp4_1 = A_01_2*w7;                                      const double tmp24 = w5*(A_01_0 + A_10_0);
2549                                      const double tmp5_1 = tmp2_0*w3;                                      const double tmp25 = w8*(A_11_0 + A_11_2);
2550                                      const double tmp6_1 = tmp3_0*w6;                                      const double tmp26 = w2*(-A_01_3 - A_10_3);
2551                                      const double tmp7_1 = A_10_0*w2;                                      const double tmp27 = w5*(-A_01_1 - A_10_2);
2552                                      const double tmp8_1 = tmp4_0*w5;                                      const double tmp28 = w1*(-A_01_0 - A_01_3 - A_10_0 - A_10_3);
2553                                      const double tmp9_1 = tmp2_0*w10;                                      const double tmp29 = w2*(A_01_2 + A_10_1);
2554                                      const double tmp10_1 = tmp5_0*w9;                                      const double tmp30 = w7*(-A_11_1 - A_11_3);
2555                                      const double tmp11_1 = tmp6_0*w7;                                      const double tmp31 = w1*(-A_01_1 - A_01_2 + A_10_0 + A_10_3);
2556                                      const double tmp12_1 = tmp7_0*w4;                                      const double tmp32 = w5*(-A_01_0 + A_10_2);
2557                                      const double tmp13_1 = tmp8_0*w1;                                      const double tmp33 = w8*(-A_11_0 - A_11_2);
2558                                      const double tmp14_1 = A_10_0*w8;                                      const double tmp34 = w6*(-A_00_0 - A_00_1 - A_00_2 - A_00_3);
2559                                      const double tmp15_1 = A_01_2*w4;                                      const double tmp35 = w2*(A_01_3 - A_10_1);
2560                                      const double tmp16_1 = tmp3_0*w0;                                      const double tmp36 = w5*(A_01_0 + A_10_3);
2561                                      const double tmp17_1 = A_01_1*w7;                                      const double tmp37 = w2*(-A_01_3 - A_10_0);
2562                                      const double tmp18_1 = tmp1_0*w6;                                      const double tmp38 = w7*(-A_11_0 - A_11_2);
2563                                      const double tmp19_1 = A_10_3*w2;                                      const double tmp39 = w5*(-A_01_3 + A_10_1);
2564                                      const double tmp20_1 = tmp9_0*w4;                                      const double tmp40 = w8*(-A_11_1 - A_11_3);
2565                                      const double tmp21_1 = tmp1_0*w11;                                      const double tmp41 = w2*(A_01_0 - A_10_2);
2566                                      const double tmp22_1 = tmp10_0*w7;                                      const double tmp42 = w5*(A_01_1 - A_10_3);
2567                                      const double tmp23_1 = tmp3_0*w14;                                      const double tmp43 = w2*(-A_01_2 + A_10_0);
2568                                      const double tmp24_1 = tmp11_0*w13;                                      const double tmp44 = w5*(A_01_2 - A_10_0);
2569                                      const double tmp25_1 = tmp12_0*w12;                                      const double tmp45 = w2*(-A_01_1 + A_10_3);
2570                                      const double tmp26_1 = tmp10_0*w4;                                      const double tmp46 = w5*(-A_01_0 + A_10_1);
2571                                      const double tmp27_1 = tmp3_0*w11;                                      const double tmp47 = w2*(A_01_3 - A_10_2);
2572                                      const double tmp28_1 = tmp9_0*w7;                                      const double tmp48 = w5*(-A_01_1 - A_10_1);
2573                                      const double tmp29_1 = tmp1_0*w14;                                      const double tmp49 = w2*(A_01_2 + A_10_2);
2574                                      const double tmp30_1 = tmp12_0*w13;                                      const double tmp50 = w5*(-A_01_3 + A_10_2);
2575                                      const double tmp31_1 = tmp11_0*w12;                                      const double tmp51 = w2*(A_01_0 - A_10_1);
2576                                      const double tmp32_1 = tmp13_0*w2;                                      const double tmp52 = w5*(-A_01_2 - A_10_1);
2577                                      const double tmp33_1 = tmp14_0*w5;                                      const double tmp53 = w2*(A_01_1 + A_10_2);
2578                                      const double tmp34_1 = tmp15_0*w8;                                      const double tmp54 = w5*(-A_01_2 - A_10_2);
2579                                      const double tmp35_1 = A_01_0*w8;                                      const double tmp55 = w2*(A_01_1 + A_10_1);
2580                                      const double tmp36_1 = tmp16_0*w1;                                      EM_S[INDEX4(k,m,0,0,numEq,numComp,4)]+=tmp15 + tmp16 + tmp17 + tmp18 + tmp19 + tmp20 + tmp9;
2581                                      const double tmp37_1 = A_10_1*w4;                                      EM_S[INDEX4(k,m,0,1,numEq,numComp,4)]+=tmp0 + tmp1 + tmp2 + tmp3 + tmp4 + tmp5;
2582                                      const double tmp38_1 = tmp5_0*w15;                                      EM_S[INDEX4(k,m,0,2,numEq,numComp,4)]+=tmp31 + tmp34 + tmp38 + tmp39 + tmp40 + tmp41;
2583                                      const double tmp39_1 = A_10_2*w7;                                      EM_S[INDEX4(k,m,0,3,numEq,numComp,4)]+=tmp28 + tmp52 + tmp53 + tmp7 + tmp8;
2584                                      const double tmp40_1 = tmp11_0*w17;                                      EM_S[INDEX4(k,m,1,0,numEq,numComp,4)]+=tmp0 + tmp2 + tmp3 + tmp31 + tmp50 + tmp51;
2585                                      const double tmp41_1 = A_01_3*w2;                                      EM_S[INDEX4(k,m,1,1,numEq,numComp,4)]+=tmp16 + tmp17 + tmp21 + tmp25 + tmp28 + tmp54 + tmp55;
2586                                      const double tmp42_1 = tmp12_0*w16;                                      EM_S[INDEX4(k,m,1,2,numEq,numComp,4)]+=tmp10 + tmp6 + tmp7 + tmp8 + tmp9;
2587                                      const double tmp43_1 = tmp17_0*w5;                                      EM_S[INDEX4(k,m,1,3,numEq,numComp,4)]+=tmp1 + tmp30 + tmp33 + tmp34 + tmp44 + tmp45;
2588                                      const double tmp44_1 = tmp7_0*w7;                                      EM_S[INDEX4(k,m,2,0,numEq,numComp,4)]+=tmp1 + tmp34 + tmp38 + tmp40 + tmp42 + tmp43;
2589                                      const double tmp45_1 = tmp6_0*w4;                                      EM_S[INDEX4(k,m,2,1,numEq,numComp,4)]+=tmp36 + tmp37 + tmp7 + tmp8 + tmp9;
2590                                      const double tmp46_1 = A_01_3*w8;                                      EM_S[INDEX4(k,m,2,2,numEq,numComp,4)]+=tmp15 + tmp19 + tmp22 + tmp23 + tmp28 + tmp48 + tmp49;
2591                                      const double tmp47_1 = A_10_2*w4;                                      EM_S[INDEX4(k,m,2,3,numEq,numComp,4)]+=tmp0 + tmp11 + tmp12 + tmp31 + tmp46 + tmp47;
2592                                      const double tmp48_1 = A_10_1*w7;                                      EM_S[INDEX4(k,m,3,0,numEq,numComp,4)]+=tmp27 + tmp28 + tmp29 + tmp7 + tmp8;
2593                                      const double tmp49_1 = tmp12_0*w17;                                      EM_S[INDEX4(k,m,3,1,numEq,numComp,4)]+=tmp30 + tmp31 + tmp32 + tmp33 + tmp34 + tmp35;
2594                                      const double tmp50_1 = A_01_0*w2;                                      EM_S[INDEX4(k,m,3,2,numEq,numComp,4)]+=tmp0 + tmp1 + tmp11 + tmp12 + tmp13 + tmp14;
2595                                      const double tmp51_1 = tmp11_0*w16;                                      EM_S[INDEX4(k,m,3,3,numEq,numComp,4)]+=tmp21 + tmp22 + tmp23 + tmp24 + tmp25 + tmp26 + tmp9;
                                     const double tmp52_1 = tmp18_0*w8;  
                                     const double tmp53_1 = tmp19_0*w2;  
                                     const double tmp54_1 = tmp13_0*w8;  
                                     const double tmp55_1 = tmp15_0*w2;  
                                     const double tmp56_1 = tmp19_0*w8;  
                                     const double tmp57_1 = tmp18_0*w2;  
                                     EM_S[INDEX4(k,m,0,0,numEq,numComp,4)]+=tmp13_1 + tmp20_1 + tmp21_1 + tmp22_1 + tmp23_1 + tmp24_1 + tmp25_1;  
                                     EM_S[INDEX4(k,m,1,0,numEq,numComp,4)]+=tmp36_1 + tmp37_1 + tmp39_1 + tmp3_1 + tmp43_1 + tmp46_1 + tmp50_1 + tmp5_1 + tmp6_1;  
                                     EM_S[INDEX4(k,m,2,0,numEq,numComp,4)]+=tmp0_1 + tmp15_1 + tmp17_1 + tmp1_1 + tmp38_1 + tmp49_1 + tmp51_1 + tmp7_1 + tmp8_1;  
                                     EM_S[INDEX4(k,m,3,0,numEq,numComp,4)]+=tmp10_1 + tmp32_1 + tmp33_1 + tmp34_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,0,1,numEq,numComp,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1 + tmp4_1 + tmp5_1 + tmp6_1 + tmp7_1 + tmp8_1;  
                                     EM_S[INDEX4(k,m,1,1,numEq,numComp,4)]+=tmp21_1 + tmp23_1 + tmp30_1 + tmp31_1 + tmp33_1 + tmp56_1 + tmp57_1;  
                                     EM_S[INDEX4(k,m,2,1,numEq,numComp,4)]+=tmp10_1 + tmp13_1 + tmp44_1 + tmp45_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,3,1,numEq,numComp,4)]+=tmp35_1 + tmp36_1 + tmp37_1 + tmp38_1 + tmp39_1 + tmp40_1 + tmp41_1 + tmp42_1 + tmp43_1;  
                                     EM_S[INDEX4(k,m,0,2,numEq,numComp,4)]+=tmp36_1 + tmp38_1 + tmp43_1 + tmp46_1 + tmp47_1 + tmp48_1 + tmp49_1 + tmp50_1 + tmp51_1;  
                                     EM_S[INDEX4(k,m,1,2,numEq,numComp,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,2,2,numEq,numComp,4)]+=tmp24_1 + tmp25_1 + tmp27_1 + tmp29_1 + tmp33_1 + tmp52_1 + tmp53_1;  
                                     EM_S[INDEX4(k,m,3,2,numEq,numComp,4)]+=tmp14_1 + tmp15_1 + tmp16_1 + tmp17_1 + tmp18_1 + tmp19_1 + tmp1_1 + tmp5_1 + tmp8_1;  
                                     EM_S[INDEX4(k,m,0,3,numEq,numComp,4)]+=tmp10_1 + tmp33_1 + tmp54_1 + tmp55_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,1,3,numEq,numComp,4)]+=tmp14_1 + tmp19_1 + tmp1_1 + tmp2_1 + tmp38_1 + tmp40_1 + tmp42_1 + tmp4_1 + tmp8_1;  
                                     EM_S[INDEX4(k,m,2,3,numEq,numComp,4)]+=tmp16_1 + tmp18_1 + tmp35_1 + tmp36_1 + tmp41_1 + tmp43_1 + tmp47_1 + tmp48_1 + tmp5_1;  
                                     EM_S[INDEX4(k,m,3,3,numEq,numComp,4)]+=tmp13_1 + tmp26_1 + tmp27_1 + tmp28_1 + tmp29_1 + tmp30_1 + tmp31_1;  
2596                                  }                                  }
2597                              }                              }
2598                          } else { // constant data                          } else { // constant data
# Line 2593  void Rectangle::assemblePDESystem(Paso_S Line 2602  void Rectangle::assemblePDESystem(Paso_S
2602                                      const double A_01 = A_p[INDEX4(k,0,m,1, numEq,2, numComp)];                                      const double A_01 = A_p[INDEX4(k,0,m,1, numEq,2, numComp)];
2603                                      const double A_10 = A_p[INDEX4(k,1,m,0, numEq,2, numComp)];                                      const double A_10 = A_p[INDEX4(k,1,m,0, numEq,2, numComp)];
2604                                      const double A_11 = A_p[INDEX4(k,1,m,1, numEq,2, numComp)];                                      const double A_11 = A_p[INDEX4(k,1,m,1, numEq,2, numComp)];
2605                                      const double tmp0_0 = A_01 + A_10;                                      const double tmp0 = 6*w1*(A_01 - A_10);
2606                                      const double tmp0_1 = A_00*w18;                                      const double tmp1 = 6*w1*(A_01 + A_10);
2607                                      const double tmp1_1 = A_01*w19;                                      const double tmp2 = 6*w1*(-A_01 - A_10);
2608                                      const double tmp2_1 = A_10*w20;                                      const double tmp3 = 6*w1*(-A_01 + A_10);
2609                                      const double tmp3_1 = A_11*w21;                                      EM_S[INDEX4(k,m,0,0,numEq,numComp,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp1;
2610                                      const double tmp4_1 = A_00*w22;                                      EM_S[INDEX4(k,m,0,1,numEq,numComp,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp0;
2611                                      const double tmp5_1 = tmp0_0*w19;                                      EM_S[INDEX4(k,m,0,2,numEq,numComp,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp3;
2612                                      const double tmp6_1 = A_11*w23;                                      EM_S[INDEX4(k,m,0,3,numEq,numComp,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp2;
2613                                      const double tmp7_1 = A_11*w25;                                      EM_S[INDEX4(k,m,1,0,numEq,numComp,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp3;
2614                                      const double tmp8_1 = A_00*w24;                                      EM_S[INDEX4(k,m,1,1,numEq,numComp,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp2;
2615                                      const double tmp9_1 = tmp0_0*w20;                                      EM_S[INDEX4(k,m,1,2,numEq,numComp,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp1;
2616                                      const double tmp10_1 = A_01*w20;                                      EM_S[INDEX4(k,m,1,3,numEq,numComp,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp0;
2617                                      const double tmp11_1 = A_11*w27;                                      EM_S[INDEX4(k,m,2,0,numEq,numComp,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp0;
2618                                      const double tmp12_1 = A_00*w26;                                      EM_S[INDEX4(k,m,2,1,numEq,numComp,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp1;
2619                                      const double tmp13_1 = A_10*w19;                                      EM_S[INDEX4(k,m,2,2,numEq,numComp,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp2;
2620                                      EM_S[INDEX4(k,m,0,0,numEq,numComp,4)]+=tmp5_1 + tmp7_1 + tmp8_1;                                      EM_S[INDEX4(k,m,2,3,numEq,numComp,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp3;
2621                                      EM_S[INDEX4(k,m,1,0,numEq,numComp,4)]+=tmp0_1 + tmp10_1 + tmp13_1 + tmp3_1;                                      EM_S[INDEX4(k,m,3,0,numEq,numComp,4)]+=4*A_00*w6 - 4*A_11*w3 + tmp2;
2622                                      EM_S[INDEX4(k,m,2,0,numEq,numComp,4)]+=tmp11_1 + tmp12_1 + tmp1_1 + tmp2_1;                                      EM_S[INDEX4(k,m,3,1,numEq,numComp,4)]+=-4*A_00*w6 - 8*A_11*w3 + tmp3;
2623                                      EM_S[INDEX4(k,m,3,0,numEq,numComp,4)]+=tmp4_1 + tmp6_1 + tmp9_1;                                      EM_S[INDEX4(k,m,3,2,numEq,numComp,4)]+=8*A_00*w6 + 4*A_11*w3 + tmp0;
2624                                      EM_S[INDEX4(k,m,0,1,numEq,numComp,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;                                      EM_S[INDEX4(k,m,3,3,numEq,numComp,4)]+=-8*A_00*w6 + 8*A_11*w3 + tmp1;
                                     EM_S[INDEX4(k,m,1,1,numEq,numComp,4)]+=tmp7_1 + tmp8_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,2,1,numEq,numComp,4)]+=tmp4_1 + tmp5_1 + tmp6_1;  
                                     EM_S[INDEX4(k,m,3,1,numEq,numComp,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1;  
                                     EM_S[INDEX4(k,m,0,2,numEq,numComp,4)]+=tmp10_1 + tmp11_1 + tmp12_1 + tmp13_1;  
                                     EM_S[INDEX4(k,m,1,2,numEq,numComp,4)]+=tmp4_1 + tmp5_1 + tmp6_1;  
                                     EM_S[INDEX4(k,m,2,2,numEq,numComp,4)]+=tmp7_1 + tmp8_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,3,2,numEq,numComp,4)]+=tmp0_1 + tmp1_1 + tmp2_1 + tmp3_1;  
                                     EM_S[INDEX4(k,m,0,3,numEq,numComp,4)]+=tmp4_1 + tmp6_1 + tmp9_1;  
                                     EM_S[INDEX4(k,m,1,3,numEq,numComp,4)]+=tmp11_1 + tmp12_1 + tmp1_1 + tmp2_1;  
                                     EM_S[INDEX4(k,m,2,3,numEq,numComp,4)]+=tmp0_1 + tmp10_1 + tmp13_1 + tmp3_1;  
                                     EM_S[INDEX4(k,m,3,3,numEq,numComp,4)]+=tmp5_1 + tmp7_1 + tmp8_1;  
2625                                  }                                  }
2626                              }                              }
2627                          }                          }
# Line 2645  void Rectangle::assemblePDESystem(Paso_S Line 2643  void Rectangle::assemblePDESystem(Paso_S
2643                                      const double B_1_2 = B_p[INDEX4(k,1,m,2, numEq,2,numComp)];                                      const double B_1_2 = B_p[INDEX4(k,1,m,2, numEq,2,numComp)];
2644                                      const double B_0_3 = B_p[INDEX4(k,0,m,3, numEq,2,numComp)];                                      const double B_0_3 = B_p[INDEX4(k,0,m,3, numEq,2,numComp)];
2645                                      const double B_1_3 = B_p[INDEX4(k,1,m,3, numEq,2,numComp)];                                      const double B_1_3 = B_p[INDEX4(k,1,m,3, numEq,2,numComp)];
2646                                      const double tmp0_0 = B_1_0 + B_1_1;                                      const double tmp0 = w11*(B_1_0 + B_1_1);
2647                                      const double tmp1_0 = B_1_2 + B_1_3;                                      const double tmp1 = w14*(B_1_2 + B_1_3);
2648                                      const double tmp2_0 = B_0_1 + B_0_3;                                      const double tmp2 = w15*(-B_0_1 - B_0_3);
2649                                      const double tmp3_0 = B_0_0 + B_0_2;                                      const double tmp3 = w10*(-B_0_0 - B_0_2);
2650                                      const double tmp63_1 = B_1_1*w42;                                      const double tmp4 = w11*(B_1_2 + B_1_3);
2651                                      const double tmp79_1 = B_1_1*w40;                                      const double tmp5 = w14*(B_1_0 + B_1_1);
2652                                      const double tmp37_1 = tmp3_0*w35;                                      const double tmp6 = w11*(-B_1_2 - B_1_3);
2653                                      const double tmp8_1 = tmp0_0*w32;                                      const double tmp7 = w14*(-B_1_0 - B_1_1);
2654                                      const double tmp71_1 = B_0_1*w34;                                      const double tmp8 = w11*(-B_1_0 - B_1_1);
2655                                      const double tmp19_1 = B_0_3*w31;                                      const double tmp9 = w14*(-B_1_2 - B_1_3);
2656                                      const double tmp15_1 = B_0_3*w34;                                      const double tmp10 = w10*(-B_0_1 - B_0_3);
2657                                      const double tmp9_1 = tmp3_0*w34;                                      const double tmp11 = w15*(-B_0_0 - B_0_2);
2658                                      const double tmp35_1 = B_1_0*w36;                                      const double tmp12 = w15*(B_0_0 + B_0_2);
2659                                      const double tmp66_1 = B_0_3*w28;                                      const double tmp13 = w10*(B_0_1 + B_0_3);
2660                                      const double tmp28_1 = B_1_0*w42;                                      const double tmp14 = w10*(B_0_0 + B_0_2);
2661                                      const double tmp22_1 = B_1_0*w40;                                      const double tmp15 = w15*(B_0_1 + B_0_3);
2662                                      const double tmp16_1 = B_1_2*w29;                                      EM_S[INDEX4(k,m,0,0,numEq,numComp,4)]+=B_0_0*w12 + B_0_1*w10 + B_0_2*w15 + B_0_3*w13 + B_1_0*w16 + B_1_1*w14 + B_1_2*w11 + B_1_3*w17;
2663                                      const double tmp6_1 = tmp2_0*w35;                                      EM_S[INDEX4(k,m,0,1,numEq,numComp,4)]+=B_0_0*w10 + B_0_1*w12 + B_0_2*w13 + B_0_3*w15 + tmp0 + tmp1;
2664                                      const double tmp55_1 = B_1_3*w40;                                      EM_S[INDEX4(k,m,0,2,numEq,numComp,4)]+=B_1_0*w11 + B_1_1*w17 + B_1_2*w16 + B_1_3*w14 + tmp14 + tmp15;
2665                                      const double tmp50_1 = B_1_3*w42;                                      EM_S[INDEX4(k,m,0,3,numEq,numComp,4)]+=tmp12 + tmp13 + tmp4 + tmp5;
2666                                      const double tmp7_1 = tmp1_0*w29;                                      EM_S[INDEX4(k,m,1,0,numEq,numComp,4)]+=-B_0_0*w12 - B_0_1*w10 - B_0_2*w15 - B_0_3*w13 + tmp0 + tmp1;
2667                                      const double tmp1_1 = tmp1_0*w32;                                      EM_S[INDEX4(k,m,1,1,numEq,numComp,4)]+=-B_0_0*w10 - B_0_1*w12 - B_0_2*w13 - B_0_3*w15 + B_1_0*w14 + B_1_1*w16 + B_1_2*w17 + B_1_3*w11;
2668                                      const double tmp57_1 = B_0_3*w30;                                      EM_S[INDEX4(k,m,1,2,numEq,numComp,4)]+=tmp2 + tmp3 + tmp4 + tmp5;
2669                                      const double tmp18_1 = B_1_1*w32;                                      EM_S[INDEX4(k,m,1,3,numEq,numComp,4)]+=B_1_0*w17 + B_1_1*w11 + B_1_2*w14 + B_1_3*w16 + tmp10 + tmp11;
2670                                      const double tmp53_1 = B_1_0*w41;                                      EM_S[INDEX4(k,m,2,0,numEq,numComp,4)]+=-B_1_0*w16 - B_1_1*w14 - B_1_2*w11 - B_1_3*w17 + tmp14 + tmp15;
2671                                      const double tmp61_1 = B_1_3*w36;                                      EM_S[INDEX4(k,m,2,1,numEq,numComp,4)]+=tmp12 + tmp13 + tmp8 + tmp9;
2672                                      const double tmp27_1 = B_0_3*w38;                                      EM_S[INDEX4(k,m,2,2,numEq,numComp,4)]+=B_0_0*w15 + B_0_1*w13 + B_0_2*w12 + B_0_3*w10 - B_1_0*w11 - B_1_1*w17 - B_1_2*w16 - B_1_3*w14;
2673                                      const double tmp64_1 = B_0_2*w30;                                      EM_S[INDEX4(k,m,2,3,numEq,numComp,4)]+=B_0_0*w13 + B_0_1*w15 + B_0_2*w10 + B_0_3*w12 + tmp6 + tmp7;
2674                                      const double tmp76_1 = B_0_1*w38;                                      EM_S[INDEX4(k,m,3,0,numEq,numComp,4)]+=tmp2 + tmp3 + tmp8 + tmp9;
2675                                      const double tmp39_1 = tmp2_0*w34;                                      EM_S[INDEX4(k,m,3,1,numEq,numComp,4)]+=-B_1_0*w14 - B_1_1*w16 - B_1_2*w17 - B_1_3*w11 + tmp10 + tmp11;
2676                                      const double tmp62_1 = B_0_1*w31;                                      EM_S[INDEX4(k,m,3,2,numEq,numComp,4)]+=-B_0_0*w15 - B_0_1*w13 - B_0_2*w12 - B_0_3*w10 + tmp6 + tmp7;
2677                                      const double tmp56_1 = B_0_0*w31;                                      EM_S[INDEX4(k,m,3,3,numEq,numComp,4)]+=-B_0_0*w13 - B_0_1*w15 - B_0_2*w10 - B_0_3*w12 - B_1_0*w17 - B_1_1*w11 - B_1_2*w14 - B_1_3*w16;
                                     const double tmp49_1 = B_1_1*w36;  
                                     const double tmp2_1 = B_0_2*w31;  
                                     const double tmp23_1 = B_0_2*w33;  
                                     const double tmp38_1 = B_1_1*w43;  
                                     const double tmp74_1 = B_1_2*w41;  
                                     const double tmp43_1 = B_1_1*w41;  
                                     const double tmp58_1 = B_0_2*w28;  
                                     const double tmp67_1 = B_0_0*w33;  
                                     const double tmp33_1 = tmp0_0*w39;  
                                     const double tmp4_1 = B_0_0*w28;  
                                     const double tmp20_1 = B_0_0*w30;  
      &nb